Үндсэн санаанууд
- Хиймэл оюун ухаан нь ямар судалгааны төслүүд бусдаас илүү зохицуулалт шаардагдаж болохыг тодорхойлж чадна гэж шинэ баримт бичжээ.
- Энэ нь ямар төрлийн хиймэл оюун ухаан нь аюултай болохыг олж мэдэх өсөн нэмэгдэж буй хүчин чармайлтын нэг хэсэг юм.
-
Нэг шинжээч хиймэл оюун ухааны жинхэнэ аюул нь хүнийг хэлгүй болгож чадна гэж хэлсэн.
Хиймэл оюун ухаан (AI) нь олон ашиг тусыг санал болгодог боловч зарим аюулыг бий болгодог. Одоо судлаачид өөрсдийн компьютержсэн бүтээлийг хянах аргыг санал болгов.
Олон улсын баг шинэ баримт бичигт хиймэл оюун ухаан нь ямар төрлийн судалгааны төслүүдэд бусдаас илүү зохицуулалт шаардагдахыг тодорхойлж чадна гэж мэдэгджээ. Эрдэмтэд биологи, математикийн ойлголтуудыг нэгтгэсэн загварыг ашигласан бөгөөд ямар төрлийн хиймэл оюун ухаан нь аюултай болохыг олж мэдэх өсөн нэмэгдэж буй хүчин чармайлтын нэг хэсэг юм.
"Мэдээж, хэрэв бид ийм шийдвэр гаргавал хиймэл оюун ухааныг "шинжлэх ухааны уран зөгнөлт"-ийн аюултай хэрэглээ гарч ирж магадгүй ч […], хиймэл оюун ухааныг аюултай болгодог зүйл нь хиймэл оюун ухаан өөрөө биш, харин [бид үүнийг хэрхэн ашигладаг] юм" гэж Тьерри Рэйна Франц дахь École Polytechnique-ийн Өөрчлөлтийн Технологийн дарга, Lifewire-д цахим шуудангаар ярилцлага өгөхдөө. "Хиймэл оюун ухааныг хэрэгжүүлэх нь ур чадварыг нэмэгдүүлэх (жишээлбэл, энэ нь хүний/ажилтны ур чадвар, мэдлэгийн хамаарлыг бэхжүүлдэг) эсвэл ур чадварыг устгах, өөрөөр хэлбэл хиймэл оюун ухаан нь одоо байгаа ур чадвар, мэдлэгийг ашиггүй эсвэл хуучирсан болгодог."
Та хуудсыг хадгалах
Сүүлийн үеийн нийтлэлийн зохиогчид хиймэл оюун ухааны таамаглалын тэмцээнийг дуурайлган загвар зохион бүтээснээ нийтлэлдээ бичжээ. Бодит хиймэл оюун ухааны уралдаанууд хэрхэн үр дүнд хүрэхийг таамаглахын тулд тэд симуляцийг хэдэн зуун удаа хийсэн.
"Бидний олж мэдсэн хамгийн чухал хувьсагч нь уралдааны "урт" буюу бидний загварчилсан уралдаанууд зорилгодоо хүрэхэд зарцуулсан хугацаа (Хиймэл оюун ухаантай бүтээгдэхүүн)" гэж эрдэмтэд бичжээ. "Хиймэл оюун ухаант уралдаанууд зорилгодоо хурдан хүрэхэд аюулгүй байдлын урьдчилан сэргийлэх арга хэмжээг үл тоомсорлож байсан өрсөлдөгчид ямагт ялдагийг бид олж мэдсэн."
Харин судлаачид урт хугацааны хиймэл оюун ухааны төслүүд нь аюулгүй байдлаа үл тоомсорлодог хүмүүс ялагч болдоггүй учраас тийм ч аюултай биш гэдгийг олж тогтоосон. "Эдгээр дүгнэлтийг харгалзан зохицуулагчид өөрсдийн хүлээгдэж буй цаг хугацааны хуваарь дээр үндэслэн өөр өөр зохицуулалтыг ашиглан хиймэл оюун ухааны янз бүрийн уралдаан хэр удаан үргэлжлэхийг тогтоох нь чухал юм" гэж тэд бичжээ. "Бидний олдворууд спринтээс марафон хүртэлх бүх хиймэл оюун ухааны уралдаанд зориулсан нэг дүрэм нь тийм ч тохиромжтой биш үр дүнд хүргэнэ гэдгийг харуулж байна."
AI-ийн талаар зөвлөгөө өгдөг Coda Strategy компанийн гүйцэтгэх захирал Дэвид Жао Lifewire-д өгсөн цахим ярилцлагадаа аюултай хиймэл оюун ухааныг таних нь хэцүү байх болно гэжээ. Хиймэл оюун ухаанд хандах орчин үеийн арга барил нь гүнзгий суралцах арга барилтай байдагт тулгардаг бэрхшээлүүд оршдог.
"Гүнзгий суралцах нь зураг илрүүлэх, яриа таних зэрэг олон төрлийн хэрэглээнд илүү сайн үр дүнд хүргэдэгийг бид мэднэ" гэж Жао хэлэв. "Гэсэн хэдий ч хүмүүс гүнзгий суралцах алгоритм хэрхэн ажилладаг, түүний үр дүнг хэрхэн гаргадагийг ойлгох боломжгүй. Тиймээс сайн үр дүнд хүрч буй хиймэл оюун ухаан нь юу болж байгааг ойлгох боломжгүй тул аюултай эсэхийг хэлэхэд хэцүү байдаг."
Програм хангамжийг муу жүжигчид ашиглаж болох эсвэл буруу үр дүнд хүргэж болзошгүй чухал системд ашиглах үед "аюултай" байж болно гэж AI компанийн MixMode компанийн стратегийн захирал Мэтт Шеа цахим шуудангаар мэдэгдэв. Мөн тэрээр аюултай хиймэл оюун ухаан нь үр дүнг буруу ангилах, өгөгдөл алдагдах, эдийн засгийн нөлөөлөл, биет гэмтэлд хүргэж болзошгүйг нэмж хэлэв.
"Уламжлалт програм хангамжийн тусламжтайгаар хөгжүүлэгчид эх кодыг хараад эмзэг байдлыг хэрхэн залруулах эсвэл алдааг засах талаар хүн шалгаж болох алгоритмуудыг кодлодог" гэж Ши хэлэв."Гэхдээ AI-ийн тусламжтайгаар логикийн ихэнх хэсгийг өгөгдлөөс бүтээж, мэдрэлийн сүлжээ гэх мэт өгөгдлийн бүтцэд кодлодог. Энэ нь "хар хайрцаг" болох системийг бий болгодог бөгөөд энэ нь эмзэг байдлыг олж засварлахын тулд шалгах боломжгүй юм. энгийн програм хангамж шиг."
Удахгүй аюул байна уу?
Терминатор зэрэг кинонуудад хиймэл оюун ухаан нь хүн төрөлхтнийг устгах санаатай хорон санаат хүч гэж дүрслэгдсэн байдаг ч бодит аюул нь илүү ойлгомжтой байж магадгүй гэж шинжээчид үзэж байна. Жишээлбэл, Рэйна хиймэл оюун ухаан биднийг тэнэг болгож чадна гэж хэлж байна.
“Энэ нь хүний тархийг сургах, ур чадвараа хөгжүүлэхэд саад болж болзошгүй” гэж тэр хэлэв. “Хэрэв та ихэнх цагаа стартапын програмуудыг уншихад зориулдаггүй бол яаж венчур капиталын мэргэжилтэн болох вэ? Хамгийн муу нь, хиймэл оюун ухаан бол "хар хайрцаг" бөгөөд тайлбарлах боломжгүй юм. AI-ийн тодорхой шийдвэр яагаад гарсныг мэдэхгүй байна гэдэг нь та Сегвейгээр цэнгэлдэх хүрээлэнг тойроод мэргэшсэн гүйгч болж чадахгүйтэй адил үүнээс суралцах зүйл тун бага байх болно гэсэн үг.”
Сайн үр дүнд хүрч буй хиймэл оюун ухаан аюултай эсэхийг хэлэхэд хэцүү, учир нь хүн юу болж байгааг ойлгох боломжгүй юм.
Хиймэл оюун ухаанаас хамгийн шууд аюул заналхийлж байгаа зүйл бол энэ нь өрөөсгөл үр дүн өгөх магадлал байж магадгүй гэж хиймэл оюун ухааны хууль эрх зүйн үр дагаварын талаар бичдэг хуульч Лайл Соломон цахим шуудангаар ярилцлага өгөхдөө хэлэв.
"AI нь нийгмийн хуваагдлыг гүнзгийрүүлэхэд тусалж чадна. Хиймэл оюун ухаан нь үндсэндээ хүнээс цуглуулсан мэдээлэлд тулгуурлан бүтээгдсэн" гэж Соломон нэмж хэлэв. "[Гэхдээ] асар их өгөгдөлтэй хэдий ч энэ нь хамгийн бага дэд бүлгүүдийг агуулж байгаа бөгөөд хүн бүрийн бодож байгаа зүйлийг багтаахгүй. Тиймээс сэтгэгдлүүд, олон нийтийн зурвасууд, тоймууд гэх мэт төрөлхийн өрөөсгөл хандлагатай цуглуулсан өгөгдөл нь хиймэл оюун ухаан нь ялгаварлан гадуурхах, үзэн ядалтыг нэмэгдүүлэх болно."
