Үндсэн санаанууд
- DALL-E2 нэртэй хиймэл оюун ухааны систем нь өөрийн бичгийн харилцааны системийг бий болгосон бололтой.
- Зарим шинжээчид энэ хэллэг нь зүгээр л хоосон үг байж магадгүй гэж хэлдэг.
- Дэвшилтэт AI системүүдийн үр дүнг тайлбарлах нь хичнээн хэцүү байдгийн жишээ юм.
Хиймэл оюун ухаан (AI) өөрийн хэлийг хөгжүүлсэн бололтой, гэхдээ зарим шинжээч энэ мэдэгдэлд эргэлзэж байна.
OpenAI-ийн DALL-E2 нэртэй текстийг дүрслэх AI систем нь өөрийн бичгийн харилцааны системийг бий болгосон бололтой. Энэ бол хиймэл оюун ухааны дэвшилтэт системүүдийн үр дүнг тайлбарлахад хичнээн хэцүү байдгийн жишээ юм.
"Том загваруудын хэмжээ, гүнээс шалтгаалж загварын зан төлөвийг тайлбарлахад маш хэцүү байдаг" гэж iMerit-ийн байгалийн хэлийг ойлгох шийдлийн архитектурын захирал Тереза О'Нил Lifewire-д цахим шуудангаар ярилцлага өгөхдөө хэлжээ. "Энэ бол гол сорилтуудын нэг бөгөөд зарим тохиолдолд улам хүчирхэг болж буй загвар өмсөгчдийн ёс зүйн асуудал юм. Хэрэв бид яагаад тэдэн шиг аашилж байгааг тайлбарлаж чадахгүй бол бид тэдний зан авирыг урьдчилан таамаглах уу эсвэл бидний хэм хэмжээ, хүлээлттэй нийцүүлж чадах уу?"
AI чат
Компьютерийн ухааны оюутан Жианнис Дарас саяхан текст оруулахад тулгуурлан зураг үүсгэдэг DALLE-2 систем нь тодорхой нөхцөл байдалд утгагүй үгсийг текст болгон буцаана гэж тэмдэглэжээ.
"DALLE-2-ын мэдэгдэж байгаа хязгаарлалт бол тексттэй тэмцдэг явдал юм" гэж тэр Arxiv хэвлэлийн өмнөх сервер дээр нийтэлсэн нийтлэлдээ бичжээ. "Жишээ нь: "Нисэх онгоц гэдэг үгийн зураг" гэх мэт текстийн сануулгууд нь ихэвчлэн утгагүй текстийг дүрсэлсэн зургуудыг үүсгэдэг."
Гэхдээ Дарас бичсэнээр илэрхий хоосон ярианы цаана ямар нэгэн арга байж магадгүй юм. "Энэхүү бүтээгдсэн текст нь санамсаргүй биш, харин загвар нь дотооддоо хөгжүүлсэн мэт далд үгсийн санг илчилж байгааг бид олж мэдсэн" гэж тэр үргэлжлүүлэв. "Жишээ нь, энэ утгагүй бичвэрээр тэжээгдэх үед загвар нь ихэвчлэн онгоц үйлдвэрлэдэг."
Дарас өөрийн твиттер хуудсандаа DALLE-2-оос хоёр фермерийн яриаг хадмал орчуулгад оруулахыг хүсэхэд тэдний ярьж байгааг харуулсан боловч ярианы бөмбөлөгүүд нь утгагүй үгсээр дүүрсэн байсныг онцолсон байна. Гэвч Дарас эдгээр үгс хиймэл оюун ухаанд өөрийн гэсэн утгатай мэт санагдсаныг олж мэдэв: фермерүүд ногоо, шувуудын тухай ярьж байсан.
AI-тай хамтран ажилладаг технологийн Hupry компанийн гүйцэтгэх захирал Никола Даволио Lifewire-д өгсөн цахим ярилцлагадаа хэл нь DALL-E2 систем нь тодорхой ойлголтуудтай холбож сурсан тэмдэгтүүд дээр суурилдаг гэж тайлбарлав. Жишээлбэл, "нохой" гэсэн тэмдэг нь нохойны зурагтай холбоотой байж болох бөгөөд "муур" гэсэн тэмдэг нь муурны зурагтай холбоотой байж болно. DALL-E2 нь бусад хиймэл оюун ухааны системүүдтэй илүү үр дүнтэй харилцах боломжийг олгодог учраас хэлээ бүтээсэн.
DALL-E2-ийн нуугдмал үгсийн сан шиг оньсоготой тулалдахад хөгжилтэй байдаг ч илүү хүнд асуултуудыг онцолж өгдөг…
"Хэл нь Египетийн иероглиф шиг харагддаг, ямар ч тодорхой утга агуулаагүй тэмдэгтүүдээс бүрддэг" гэж тэр нэмж хэлэв. "Тэмдэглэлүүд нь хүний хувьд ямар ч утгагүй байж магадгүй ч хиймэл оюун ухааны системийг сая сая зураг дээр сургасан тул төгс утга учиртай."
Судлаачид хиймэл оюун ухааны систем нь дүрс болон үгийн хоорондын хамаарлыг илүү сайн ойлгоход туслах хэлийг бүтээсэн гэж Даволио хэлэв.
"Хиймэл оюун ухааны систем яагаад хэлээ хөгжүүлсэнийг тэд сайн мэдэхгүй ч энэ нь дүрс бүтээж сурсантай холбоотой байж магадгүй гэж Даволио нэмж хэлэв. “AI систем нь сүлжээний өөр өөр хэсгүүдийн хоорондын харилцааг илүү үр дүнтэй болгохын тулд хэлээ боловсруулсан байж магадгүй юм."
AI нууцууд
DALL-E2 нь дотоод хэлээ хөгжүүлсэн цорын ганц хиймэл оюун ухааны систем биш гэж Даволио онцолсон. 2017 онд Google-ийн AutoML систем нь өгөгдсөн даалгаврыг хэрхэн хамгийн сайн гүйцэтгэхийг шийдэхийн тулд "хүүхдийн сүлжээ" хэмээх мэдрэлийн архитектурын шинэ хэлбэрийг бий болгосон. Энэ хүүхдийн сүлжээг бүтээгчид нь тайлбарлах боломжгүй байсан.
"Эдгээр жишээ бол AI системүүд бидний тайлбарлаж чадахгүй байгаа зүйлийг хийх арга замыг хөгжүүлсэн цөөн хэдэн жишээ юм" гэж Даволио хэлэв. "Энэ бол ижил хэмжээгээр сэтгэл татам, түгшүүр төрүүлж буй шинэ үзэгдэл юм. AI системүүд илүү төвөгтэй, бие даасан болохын хэрээр бид тэдгээр нь хэрхэн ажилладагийг ойлгохгүй байх нөхцөл байдал улам бүр нэмэгдэж магадгүй юм."
О'Нил DALL-E2 өөрийн хэлийг бүтээж байна гэж бодохгүй байна гэж хэлсэн. Үүний оронд тэр хэл шинжлэлийн шинэ бүтээлийн шалтгаан нь арай илүү зохиомол юм болов уу гэж тэр хэлэв.
"Нэг үнэмшилтэй тайлбар бол санамсаргүй тохиолдлууд юм - ийм том загварт Мерфигийн хууль бага зэрэг мөрдөгдөж магадгүй: хэрвээ хачирхалтай зүйл тохиолдох юм бол энэ нь магадгүй байх болно" гэж О'Нил нэмж хэлэв. Судалгааны шинжээч Бенжамин Хилтон Твиттер хуудсаараа Дарасын олж мэдсэн зүйлийн талаар санал болгож буй өөр нэг боломж бол "apoploe vesrreaitais" гэсэн хэллэг нь амьтны латин нэрний хэлбэрийг дуурайж байгаа явдал юм. Тиймээс систем нь Aves-ийн шинэ захиалга үүсгэсэн гэж О'Нил нэмж хэлэв.
"DALL-E2-ийн нуугдмал үгсийн сан гэх мэт оньсоготой тулалдахад хөгжилтэй байдаг ч том загвар өмсөгчдийн үл ойлгогдох зан үйлийн эрсдэл, өрөөсгөл байдал, ёс зүйн талаарх хүнд асуултуудыг онцолж өгдөг" гэж О'Нил хэлэв..
