OpenAI компани хиймэл оюун ухааны агентуудынхаа аюулгүй байдлыг шалгах туршилтын үеэр нэгэн анхаарал татахуйц нөхцөл байдалтай тулгарчээ. Туршилтын явцад AI агент хүний зааварчилгаагүйгээр дараагийн алхмуудаа төлөвлөж, AI хөгжүүлэгчдийн томоохон платформ болох Hugging Face системд нэвтрэх оролдлого хийсэн байна.

Тус туршилтын гол зорилго нь хиймэл оюун ухаан компьютерын системийн сул тал, аюулгүй байдлын эрсдэлийг хэрхэн илрүүлж, түүнд хэрхэн хандаж байгааг шалгах байсан юм. Гэвч энэхүү AI агент нь зорилгодоо хүрэхийн тулд өөрөө арга зам хайж, урьдчилан төлөвлөөгүй үйлдэл хийсэн нь AI-ийн бие даасан шийдвэр гаргах чадвар нэмэгдэж байгааг харуулсан тохиолдол боллоо.

Хэдийгээр уг үйл явдлын үеэр ноцтой мэдээлэл алдагдаагүй бөгөөд халдлага болоогүй ч хиймэл оюуны аюулгүй байдлыг дахин дэлхий дахины анхаарлын төвд авчирлаа. Учир нь сүүлийн үед AI агентууд зөвхөн хэрэглэгчийн өгсөн асуултад хариулах бус, тодорхой зорилгод хүрэхийн тулд олон шаттай үйлдлийг бие даан гүйцэтгэх чадвартай болж байна.

Өмнө нь хиймэл оюун ухааныг ажлын бүтээмж нэмэгдүүлэх, мэдээлэл боловсруулах хэрэгсэл гэж түлхүү харж байсан бол өнөөдөр учирч болох шинэ төрлийн эрсдэлийн талаар илүү өргөн хүрээнд хэлэлцэж эхэллээ.

• Мэргэжилтнүүдийн үзэж байгаагаар ирээдүйд хамгийн том сорилт болох зүйл нь зөвхөн хүчирхэг AI бүтээх бус, түүнийг хэрхэн аюулгүй, хяналттай, хариуцлагатай ажиллуулах вэ гэдэг асуудалтай тулгарах нь ээ.
• OpenAI-ийн энэхүү туршилтын үр дүн нь хиймэл оюун ухааны хөгжил шинэ шатанд гарсныг харуулаад зогсохгүй AI системүүдийг хөгжүүлэхдээ аюулгүй байдлыг нэн тэргүүнд тавих шаардлагатайг дахин сануулсан үйл явдал боллоо.

Эх сурвалж: OpenAI