Үндсэн санаанууд
- Шинэ судалгаагаар хэт ухаалаг хиймэл оюун ухааныг хянах ямар ч арга байхгүй байж магадгүй гэж үзэж байна.
- Хиймэл оюун ухааныг удирдахад бидний одоогийн байгаагаас хамаагүй илүү дэвшилтэт технологи шаардагдана гэж сэтгүүлд бичсэн байдаг.
- Зарим мэргэжилтнүүд жинхэнэ ухаалаг хиймэл оюун ухаан бидний бодсоноос ч эрт гарч ирж магадгүй гэж хэлдэг.
Хэрэв хүн төрөлхтөн хэзээ нэгэн цагт супер ухаалаг хиймэл оюун ухаантай болбол түүнийг хянах ямар ч боломжгүй гэж эрдэмтэд үзэж байна.
AI нь хүн төрөлхтний бүхий л асуудлыг эмчлэх эм, эсвэл Терминатор маягийн апокалипсис гэж эртнээс мэдэгдсээр ирсэн. Одоогоор хиймэл оюун ухаан хүний түвшний оюун ухаанд ч ойртоогүй байна. Харин хиймэл оюун ухааны судалгааны сэтгүүлд саяхан хэвлэгдсэн нэгэн нийтлэлд дурдсанаар, дэвшилтэт хиймэл оюун ухаантай холбоотой байх нь хэзээ нэгэн цагт хөгжсөн тохиолдолд хүмүүсийн хувьд хэтэрхий төвөгтэй асуудал байж магадгүй юм.
"Дэлхий ертөнцийг удирддаг супер ухаалаг машин нь шинжлэх ухааны уран зөгнөлт мэт сонсогдож байна" гэж тус сонины хамтран зохиогчдын нэг Мануэль Себриан хэвлэлд нийтэлжээ.
"Гэхдээ програмистууд үүнийг хэрхэн сурснаа бүрэн ойлгоогүй ч тодорхой чухал ажлуудыг бие даан гүйцэтгэдэг машинууд хэдийнэ бий. Тиймээс энэ нь хэзээ нэгэн цагт хяналтгүй, хүн төрөлхтөнд аюултай болж чадах уу гэсэн асуулт гарч ирнэ."
Удахгүй таньд ойрхон супер компьютертэй болно
Сэтгүүлийн цаасан дээр AI-г удирдахад бидний одоогийн байгаагаас хамаагүй илүү дэвшилтэт технологи шаардлагатай гэж үздэг.
Судалгааны явцад багийнхан хиймэл оюун ухааны зан үйлийг эхлээд дуурайж, хор хөнөөлтэй гэж үзвэл түүнийг зогсоох замаар супер ухаалаг хиймэл хиймэл оюун ухаан нь ямар ч нөхцөлд хүмүүст хор хөнөөл учруулахгүй байх онолын алгоритмыг зохион бүтээжээ. Гэвч зохиогчид ийм алгоритмыг бүтээх боломжгүйг олж мэдсэн.
"Хэрэв та асуудлыг онолын компьютерийн шинжлэх ухаанаас үндсэн дүрмүүд рүү буулгавал хиймэл оюун ухаанд дэлхийг сүйрүүлэхгүй байхыг тушаадаг алгоритм нь өөрийн үйл ажиллагааг санамсаргүйгээр зогсоож магадгүй нь харагдаж байна." ХБНГУ-ын Макс Планкийн хүний хөгжлийн хүрээлэнгийн Хүн ба машин судлалын төвийн захирал Ияд Рахван энэ тухай мэдээнд дурджээ.
"Хэрэв ийм зүйл тохиолдсон бол хязгаарлах алгоритм нь аюул заналхийллийг шинжилсээр байгаа эсэх, эсвэл хортой хиймэл оюун ухааныг агуулж зогссон эсэхийг та мэдэхгүй байх болно. Энэ нь үнэн хэрэгтээ хязгаарлалтын алгоритмыг ашиглах боломжгүй болгоно."
Үнэхээр ухаалаг хиймэл оюун ухаан бидний бодсоноос ч эрт гарч ирж магадгүй гэж Францын École Polytechnique сургуулийн компьютерийн шинжлэх ухааны профессор Михалис Вазиргианнис үзэж байна. Тэрээр Lifewire руу илгээсэн цахим шуудангаар "Хиймэл оюун ухаан бол хүний олдвор, гэхдээ энэ нь хурдан бие даасан байгууллага болж байна" гэж хэлсэн байна.
"Гэгдлийн цэг нь онцгой байдал үүсэх үед (жишээ нь, хиймэл оюун ухааны агентууд бие даасан ухамсартай байх үед) байх бөгөөд ингэснээр тэд бие даасан байдал, өөрийгөө хянах, улмаар давамгайлах болно."
Онцгой байдал ирж байна
Вазиргианнис ганцаараа супер хиймэл оюун ухаан ирэхийг урьдчилан таамагладаггүй. Хиймэл оюун санааны аюулд үнэнч итгэдэг хүмүүс "онцгой байдлын" талаар ярих дуртай бөгөөд үүнийг Вазиргианнисийн тайлбарласнаар хиймэл оюун ухаан нь хүний оюун ухааныг орлож, "AI алгоритмууд оршин тогтнох боломжоо ухамсарлаж, хувиа хичээсэн, хамтран ажиллаж эхлэх болно".
Google-ийн инженерчлэлийн захирал Рэй Курцвейлийн хэлснээр онцгой байдал 21-р зууны дунд үеэс өмнө гарч ирнэ. Курцвейл Futurism сэтгүүлд "2029 он бол хиймэл оюун ухаан Тьюрингийн шалгалтыг амжилттай давж, хүний оюун ухааны түвшинд хүрэхийг миний таамаглаж байсан тогтвортой өдөр" гэж Курцвейл хэлэв.
Хэрэв бид өөрсдөө гэрээ цэвэрлэж чадахгүй бол хиймэл оюун ухаанаас ямар кодыг мөрдөх ёстой вэ?
"Би "Онцгой байдал"-ын огноог 2045 он гэж тогтоосон бөгөөд энэ нь бидний бүтээсэн оюун ухаантай нэгдэж үр дүнтэй оюун ухаанаа тэрбум дахин нэмэгдүүлэх болно."
Гэхдээ хиймэл оюун ухааны бүх мэргэжилтнүүд ухаалаг машиныг аюул гэж боддоггүй. Хийж буй хиймэл оюун ухаан нь эм боловсруулахад илүү ашигтай бөгөөд жинхэнэ оюун ухаан харуулахгүй байна гэж хиймэл оюун ухааны зөвлөх Эммануэль Маггиори цахим шуудангаар ярилцлага өгөхдөө хэлэв. "AI-ийн эргэн тойронд маш их шуугиан дэгдээж байгаа нь энэ нь үнэхээр хувьсгалт юм шиг санагдаж байна" гэж тэр нэмж хэлэв. "Одоогийн AI системүүд нь нийтэд зарласан шиг үнэн зөв биш бөгөөд хүний хэзээ ч гаргаж чадахгүй алдаа гаргадаг."
Хиймэл оюун ухааныг хяналтандаа аваарай, одоо
Хиймэл оюун ухааныг бидний хяналтаас гарахгүйн тулд зохицуулах нь хэцүү байж магадгүй гэж Вазиргианнис хэлэв. Засгийн газар гэхээсээ илүү компаниуд хиймэл оюун ухаанд хүч өгдөг нөөцийг хянадаг. "Алгоритмуудыг ч гэсэн ихэвчлэн эдгээр том, хүчирхэг, ихэвчлэн үндэстэн дамнасан аж ахуйн нэгжүүдийн судалгааны лабораторид үйлдвэрлэж, ашигладаг" гэж тэр хэлэв.
"Тиймээс мужуудын засгийн газрууд хиймэл оюун ухааныг хянахад шаардлагатай нөөцийг хянах чадвар улам бүр багасч байгаа нь илт байна."
Хүмүүс супер ухаалаг хиймэл оюун ухааныг удирдахын тулд тооцоолох нөөц, цахилгаан эрчим хүчийг удирдах шаардлагатай гэж зарим мэргэжилтнүүд хэлж байна. "Матриц гэх мэт шинжлэх ухааны уран зөгнөлт кинонууд нь хиймэл оюун ухаан нь хүмүүсийг био эрчим хүчний эх үүсвэр болгон ашигладаг дистопи ирээдүйн тухай зөгнөлийг хэлдэг" гэж Вазиргианнис хэлэв.
"Хэдийгээр алсын боломжгүй байсан ч хүн төрөлхтөн тооцоолох нөөц (жишээ нь: компьютерийн кластер, GPU, суперкомпьютер, сүлжээ/харилцаа холбоо) болон цахилгаан эрчим хүчээр хангадаг цахилгаан станцуудад хангалттай хяналт байгаа эсэхийг шалгах ёстой. AI-ийн үйл ажиллагаанд хортой."
Хиймэл оюун ухааныг хянахтай холбоотой асуудал бол судлаачид ийм систем хэрхэн шийдвэр гаргадагийг тэр бүр ойлгодоггүйд оршино гэж KNIME мэдээллийн шинжлэх ухааны программ хангамжийн фирмийн үүсгэн байгуулагч, гүйцэтгэх захирал Майкл Бертольд цахим шуудангаар ярилцлага өгөхдөө хэлэв. "Хэрэв бид үүнийг хийхгүй бол яаж "хянах" вэ?"
Тэр нэмж хэлэхдээ, "Бидэнд хамааралгүй орцонд тулгуурлан огт өөр шийдвэр гаргадгийг бид ойлгохгүй байна."
Хиймэл оюун ухааныг ашиглах эрсдэлийг хянах цорын ганц арга зам бол эрсдэлийг зохицуулах боломжтой үед л ашиглах явдал юм гэж Бертольд хэлэв. "Өөрөөр хэлбэл, хоёр туйлын жишээ хэлье: Атомын цахилгаан станцаа хиймэл оюун ухаанаар бүү хариуц, бага зэрэг алдаа нь сүйрлийн үр дагавартай байж болно" гэж тэр нэмж хэлэв.
"Нөгөө талаар хиймэл оюун ухаан таны өрөөний температурыг бага зэрэг өсгөх эсвэл бага зэрэг тохируулах нь тав тухтай амьдрахын тулд бага зэрэг эрсдэлд орохыг урьдчилан таамаглаж байна."
Хэрэв бид хиймэл оюун ухааныг удирдаж чадахгүй бол түүнд ёс суртахууныг зааж өгсөн нь дээр гэж НАСА-гийн компьютерийн инженер асан Питер Скотт цахим шуудангаар ярилцлага өгөхдөө хэлэв. "Бид хүүхдүүдийнхээ хяналтыг баталгаажуулахаас илүүтэйгээр хиймэл оюун ухааны хяналтыг баталгаажуулж чадахгүй" гэж тэр хэлэв.
"Бид тэднийг зөв хүмүүжүүлж, хамгийн сайн сайхныг найддаг; одоо болтол тэд дэлхийг сүйрүүлээгүй. Тэднийг сайн өсгөхийн тулд ёс зүйн талаар илүү сайн ойлголттой байх хэрэгтэй; хэрэв бид өөрсдөө гэрээ цэвэрлэж чадахгүй бол яах вэ? Бид хиймэл оюунаас дагаж мөрдөх кодыг асуух ёстой юу?"
Гэхдээ хүн төрөлхтний төлөөх бүх итгэл найдвар тасраагүй гэж OrCam-ын R&D хариуцсан дэд ерөнхийлөгч, хиймэл оюун ухаан судлаач Йонатан Векслер хэлэв. "Хэдийгээр ахиц дэвшил үнэхээр гайхалтай боловч хүний оюун ухааныг дутуу үнэлж болохгүй гэж миний хувийн итгэл үнэмшилтэй байна" гэж тэрээр цахим шуудангаар ярилцлага өгөхдөө хэлэв. "Бид төрөл зүйлийн хувьд хиймэл оюун ухаан гэх мэт гайхалтай зүйлсийг бүтээсэн."
Илүү ухаалаг хиймэл оюун ухааны эрэл хайгуул үргэлжилж байна. Гэхдээ хэтэрхий оройтохоос өмнө бүтээлээ хэрхэн хянах талаар бодож үзсэн нь дээр байх.
