Үндсэн санаанууд
- Мэргэжилтнүүдийн үзэж байгаагаар хиймэл оюун ухааны тусламжтайгаар кибер халдлага нь таны мэдээлэлд нэвтэрч болзошгүй.
- Цахим аюулгүй байдлын нэрт шинжээч Брюс Шнайер саяхан болсон бага хурлын үеэр компьютерийн системд хиймэл оюун ухаан нэвтэрч байгаад санаа зовж байгаагаа хэлжээ.
- 2018 онд TaskRabbit-ийн эсрэг хиймэл оюун ухаанд суурилсан нэг кибер халдлагыг эхлүүлсэн бөгөөд 3.75 сая хэрэглэгчийг хохироосон.
Хакерууд удахгүй таны компьютерт хиймэл оюун ухаан ашиглан нэвтэрч магадгүй.
Цахим аюулгүй байдлын нэрт шинжээч Брюс Шнайер саяхан болсон бага хурлын үеэр компьютерийн системд хиймэл оюун ухаан нэвтэрч орох нь гарцаагүй гэж санаа зовж байгаагаа хэлжээ. Мэргэжилтнүүдийн үзэж байгаагаар хиймэл оюун ухааны халдлага улам бүр нэмэгдэж буй аюул заналхийлэл болж байна.
"AI нь хакердах үүднээс улам бүр ашиг тустай болохын хэрээр хэрэглэгчид болон хэрэглэгчдийн мэдээлэл ихээхэн эрсдэлд орж болзошгүй" гэж Deloitte Risk & Financial Advisory компанийн кибер аюулгүй байдлын мэргэжилтэн Эндрю Дуглас цахим шуудангаар өгсөн ярилцлагадаа хэлэв. "Хакерууд ихэвчлэн хамгийн бага хүчин чармайлтаар хамгийн хялбар байг эрэлхийлдэг бөгөөд хиймэл оюун ухаан нь тэдэнд илүү сайн хамгаалалттай олон хүнийг богино хугацаанд онилгох боломжийг олгодог."
Schneier бол хиймэл оюун ухааны аюулын талаар сэрэмжлүүлсэн хамгийн сүүлийн үеийнх юм. Шнайер саяхан болсон бага хурлын үеэр "Ямар ч сайн хиймэл оюун ухаан нь хакеруудыг олох болно" гэж мэдэгджээ. "Тэд шинэ шийдлүүдийг олдог, учир нь тэдгээрт хүний нөхцөл байдал дутмаг байдаг ба үр дагавар нь эдгээр шийдлүүдийн зарим нь хүмүүсийн хүлээлтийг эвдэх болно, тиймээс хакерджээ."
Таны гэрт хиймэл оюун ухаантай утаснууд
Хакерууд компьютер руу нэвтрэхийн тулд хиймэл оюун ухаан ашиглаж байна. 2018 онд TaskRabbit-ийн эсрэг хиймэл оюун ухаанаар удирддаг нэг кибер халдлагыг эхлүүлсэн бөгөөд 3 удаа халдлага үйлдсэн. Pixel Privacy вэб сайтын хэрэглэгчийн нууцлалын өмгөөлөгч Крис Хаук 75 сая хэрэглэгчтэй хэдий ч мөшгөх боломжгүй гэдгийг цахим шуудангаар өгсөн ярилцлагадаа дурджээ.
"Энэ халдлагыг хиймэл оюун ухаанаар удирддаг том ботнет ашигладаг хакерууд эхлүүлсэн бөгөөд тэдгээр нь TaskRabbit-ийн серверүүд дээр асар том DDoS халдлага үйлдэхэд боолын машинуудыг ашигласан" гэж тэр нэмж хэлэв.
Машин сурах алгоритмыг 2016 онд Defcon-ийн системд амжилттай нэвтрэхэд ашигласан гэж ProPrivacy-ийн мэдээллийн нууцлалын мэргэжилтэн Рэй Уолш цахим шуудангаар ярилцлага өгөхдөө тэмдэглэжээ. Тухайн үед долоон баг DARPA-ийн Гранд сорилтын төлөө өрсөлдөж, 2 сая долларын шагнал хүртэж байсан. "Тэмцээний үеэр өрсөлдөгчид хиймэл оюун ухааныг ашиглан эмзэг байдлыг олж илрүүлж, мөлжлөг үүсгэж, автоматжуулсан хэрэгслээр засваруудыг байршуулсан" гэж тэр нэмж хэлэв.
Харрисбургийн Шинжлэх Ухаан Технологийн Их Сургуулийн кибер аюулгүй байдлын профессор Брюс Янг цахим шуудангаар ярилцлага өгөхдөө хиймэл оюун ухаан нь муу жүжигчний хяналтан дор байдаг компьютерийн бүлэглэлийг бусад руу халдах зорилгоор ботнетийг удирдахад ашиглаж байна гэж хэлсэн байна. компьютер.
"AI нь хүний банк, эмнэлэг, жолооны үнэмлэх, төрсөн өдөр гэх мэт мэдээллийг автоматаар цуглуулах боломжтой" гэж тэр хэллээ. "Тэд боловсронгуй фишинг хийх оролдлогыг боловсруулж, хэрэглэгчдэд хууль ёсны мэт имэйл илгээх боломжтой."
AI-ийг сул талуудыг илрүүлж, ашиглах замаар хакердуулах боломжтой гэж Comparitech вэб сайтын нууцлалын өмгөөлөгч Пол Бишофф цахим шуудангаар өгсөн ярилцлагадаа хэлэв.
AI болон машин сургалт нь хүмүүсийн анзаарахгүй байх хэв маягийг олж мэдэх боломжтой. Эдгээр хэв маяг нь сул талуудыг илрүүлж чадна… AI нь эдгээр эмзэг байдлыг ашиглаж чадна…
"AI болон машин сургалт нь хүмүүсийн анзаарахгүй байх хэв маягийг олж хардаг" гэж тэр нэмж хэлэв. "Эдгээр загвар нь зорилтот хүний кибер аюулгүй байдал эсвэл үйл ажиллагааны аюулгүй байдлын сул талыг илрүүлж чадна. AI нь эдгээр эмзэг байдлыг хүнээс хамаагүй хурдан, гэхдээ уламжлалт роботоос илүү уян хатан байдлаар ашиглаж чадна."
AI нь хүний оролцоогүйгээр довтолгоогоо өөрчилж, сайжруулж чадна гэж Бишофф хэлэв.
"AI нь далдлахад маш тохиромжтой бөгөөд өгөгдөл цуглуулах эсвэл удаан хугацааны туршид халдлага үйлдэх систем дотор нуугдаж чаддаг" гэж тэр нэмж хэлэв.
AI-аас өөрийгөө хамгаалах
Харамсалтай нь хэрэглэгчид хиймэл оюун ухаанд суурилсан хакердлаас өөрсдийгөө хамгаалахын тулд хийж чадах тодорхой зүйл байхгүй гэж Бишофф хэлэв.
"Ердийн зааврыг дагаарай" гэж тэр хэлэв. "Дижитал ул мөрийг багасгах, програм хангамжаа шинэчлэх, вирусны эсрэг ашиглах, галт хана ашиглах, зөвхөн найдвартай эх сурвалжаас нэр хүндтэй программ хангамжийг татаж авах, хүсээгүй мессежийн холбоос эсвэл хавсралт дээр бүү дар."
Гэхдээ хиймэл оюун ухаанаар удирдуулсан халдлагад өөрийгөө бэлдээрэй.
"AI нь кибер аюулгүй байдал болон кибер халдлагад хоёуланд нь ашиглагддаг бөгөөд ирээдүйд хиймэл оюун ухааны системүүд бие бие рүүгээ дайрахыг бид харж магадгүй" гэж Бишофф хэлэв. “Жишээ нь, хиймэл оюун ухаан нь хүний бус зан үйлийг тодорхойлж, роботуудын эсрэг арга хэмжээ авахад ашиглаж болно. Үүний эсрэгээр хиймэл оюун ухааныг роботууд хүний зан байдлыг илүү нарийвчлалтай дуурайж, робот илрүүлэх системийг тойрч гарахад ашиглаж болно."
Төрийн ивээн тэтгэдэг бүлгүүд ирээдүйд хиймэл оюун ухааныг хакердах эх үүсвэр байх болно гэж кибер аюулгүй байдлын Mimoto фирмийн захирал Крис Бонди цахим шуудангаар ярилцлага өгөхдөө хэллээ.
"Энэ ангилал нь улам бүр боловсронгуй болсон зөрчлийн тоог аль хэдийн нэмэгдүүлж байна" гэж Бонди нэмж хэлэв. "Хэрвээ хиймэл оюун ухааныг хакердуулахад үр дүнтэй ашиглавал энэ нь бүр илүү боловсронгуй, зөрчих оролдлого болно гэсэн үг. Энэ нь хувь хүн, дэд бүтэц, аж ахуйн нэгжийн тагнуул, үндэсний аюулгүй байдалд нөлөөлнө."
