Парех: AI-ийн ирээдүйд олон туслагч, хүний хяналт чухал

Хиймэл оюуны ирээдүй нэг төвд төвлөрсөн асар хүчтэй систем байх уу, эсвэл олон хүний өмнөөс ажиллах олон туслагч байх уу? Майкл Парех арваннэгдүгээр сарын 1-ний Substack нийтлэлдээ хоёр дахь чиглэлийг дэмжиж, Сэм Альтманы шинэ ярилцлага болон OpenAI-ийн зан үйлийн зарчмын шинэчлэлтэй холбон тайлбарлажээ.

Энд AI agent гэдэг нь зөвхөн асуултад хариулах бус, хүний даалгаврыг гүйцэтгэх туслагчийг хэлнэ. Парех олон ийм систем харилцан ажиллах ирээдүйг төсөөлж байна.

Альтман яг юу хэлсэн бэ?

Аравдугаар сарын 29-нд нийтлэгдсэн Cheeky Pint ярилцлагад Альтман нэг асар өндөр оюунтай AI-аас илүү, хүнээс бага зэрэг давсан чадвартай их наяд AI нийгэмд оролцох хувилбарыг илүүд үзэж байгаагаа Жон Коллисонд хэлжээ. Тэр үүнийг хүмүүс бие биеэ хянаж, хамтран ажилладгаас нийгэм тэсвэртэй байдагтай холбосон байна.

“Их наяд” нь одоо ажиллаж буй системийн тоо биш. Энэ нь Альтманы дэмжиж буй ирээдүйн чиглэл бөгөөд уг санааг хэрэгжүүлэх тодорхой хугацаа зарлаагүй. Эх ярилцлагыг хавсаргав.

Хүний хяналт зарчим дээрээ хэрхэн тусав?

OpenAI аравдугаар сарын 29-нд Model Spec-ээ таван үнэт зүйлээр дахин зохион байгуулсан: хүний зорилго, хүсэлд нийцэх; хор хөнөөлийг багасгах; үнэнч, ил тод байх; хүний бие даан шийдэх чадварыг дэмжих; бусдын нөхцөл байдлыг анхаарах.

Гэхдээ компани өнөөгийн загварууд энэ зарчмыг бүрэн тусгаж хараахан чадаагүй гэдгээ өөрөө тэмдэглэсэн. Зорилгоо нийтлэх, бодит үйлдлээрээ түүнийг хангах хоёрын хооронд ажил үлдэж байна.

Парехийн тайлбар ба үлдсэн асуулт

Парехийн үзэж буйгаар олон туслагчтай ертөнцөд хэн болохыг нь таних, нэр хүндийг үнэлэх, хооронд нь зохицуулах тогтолцоо хэрэгтэй. Мөн системүүдийн ажлын төлбөрийг хэн, ямар загвараар төлөх нь шийдэгдээгүй гэж тэр тайлбарлажээ.

Түүний гол сануулга нь ашигтай ажил гүйцэтгэж, итгэл олж авах шаардлага юм. Олон AI бий болох нь аюулгүй байдлыг автоматаар батална гэсэн тогтоогдсон үр дүн биш; энэ нийтлэл бол ирээдүйн тухай байр суурь, тайлбар юм.