Үндсэн санаанууд
- Zoom нь хэрэглэгчийн мэдрэмж эсвэл оролцооны түвшинг үнэлэхийн тулд хиймэл оюун ухаан ашиглана гэж мэдэгдсэн.
- Хүний эрхийн бүлгүүд Zoom-оос хувийн нууц болон мэдээллийн аюулгүй байдлын үүднээс төлөвлөгөөгөө эргэн харахыг хүсч байна.
- Зарим компаниуд ярилцлагын үеэр хэрэглэгч анхаарлаа хандуулж байгаа эсэхийг үнэлэхийн тулд сэтгэл хөдлөлийг илрүүлэх программ хангамж ашигладаг.
Хүний сэтгэл хөдлөлийг хянах хиймэл оюун ухааныг (AI) ашиглах нь улам бүр нэмэгдэж байгаа нь хувийн нууцтай холбоотой асуудал үүсгэж байна.
Хүний эрхийн байгууллагууд Zoom-оос видео хурлын программ хангамждаа сэтгэл хөдлөлийг шинжлэх хиймэл оюун ухаан нэвтрүүлэх төлөвлөгөөгөө удаашруулахыг хүсч байна. Тус компани хиймэл оюун ухаан ашиглан хэрэглэгчийн сэтгэл хөдлөл, оролцооны түвшинг үнэлнэ гэж мэдэгдсэн.
"Сэтгэл хөдлөлийн шинжилгээ үр дүнгүй гэдгийг мэргэжилтнүүд хүлээн зөвшөөрч байна" гэж ACLU зэрэг хүний эрхийн бүлгүүдийн консорциум Zoom-д бичсэн захидалдаа бичжээ. "Нүүрний илэрхийлэл нь сэтгэл хөдлөлөөс ихэвчлэн салгагддаг бөгөөд зарим үед хүмүүс ч гэсэн бусдын сэтгэл хөдлөлийг яг таг уншиж, хэмжиж чаддаггүйг судалгаагаар тогтоосон. Энэ хэрэгслийг хөгжүүлснээр хуурамч шинжлэх ухаанд итгэх итгэл нэмэгдэж, таны нэр хүнд эрсдэлд ордог."
Zoom нь Lifewire-ын санал хүсэлтэд шууд хариу өгөөгүй.
Сэтгэл хөдлөлөө хянах нь
Протоколын өгүүллийн дагуу Борлуулалтын Q гэж нэрлэгддэг Zoom хяналтын систем нь тухайн хүний ярианы цагийн харьцаа, хариу өгөх хугацааны хоцрогдол, чанга яригчийг байнга сольж байгаа эсэхийг шалгадаг бөгөөд тухайн хүн хэр идэвхтэй байгааг хянах болно. Томруулах нь энэ өгөгдлийг тэгээс 100 хүртэлх оноо өгөхөд ашигладаг бөгөөд өндөр оноо нь өндөр оролцоо эсвэл сэтгэл хөдлөлийг илэрхийлдэг.
Хүний эрхийн бүлгүүд тус программ хангамж нь хөгжлийн бэрхшээлтэй эсвэл тодорхой үндэстний хүмүүсийг ялгаварлан гадуурхаж, хүн бүр ижил нүүрний хувирал, дуу хоолой, биеийн хэлэмжээр харилцахдаа ашигладаг гэж үзэж байна. Мөн бүлгүүд уг программ хангамж нь өгөгдлийн аюулгүй байдлын эрсдэл байж болзошгүй гэж үзэж байна.
"Хувийн мэдээллийг гүн гүнзгий цуглуулах нь энэ технологийг ашиглаж буй аливаа аж ахуйн нэгжийг засгийн газрын эрх баригчид болон хорлонтой хакеруудыг илрүүлэх зорилт болгож болзошгүй" гэж захидалд дурджээ.
Нью-Йоркийн их сургуулийн компьютерийн шинжлэх ухаан, инженерчлэлийн профессор Жулия Стоянович Lifewire-д цахим шуудангаар ярилцлага өгөхдөө сэтгэл хөдлөлийг илрүүлэхийн цаана байгаа мэдэгдлийн талаар эргэлзэж байгаагаа хэлэв.
"Хүмүүсийн сэтгэл хөдлөлийн илэрхийлэл нь маш хувь хүн, соёлоос ихээхэн хамааралтай, нөхцөл байдлаас ихээхэн хамааралтай байдаг" гэж Стоянович хэлэв."Гэхдээ хамгийн чухал нь бид эдгээр хэрэгслүүдийг ажиллуулахыг яагаад хүсээд байгааг би ойлгохгүй байна. Өөрөөр хэлбэл, хэрэв тэд сайн ажилласан бол бид илүү их асуудалд орох байсан. Гэхдээ эрсдэлийн талаар бодохоос өмнө ч гэсэн бид үүнийг хийх ёстой. Асуу-ийм технологийн боломжит ашиг тус юу вэ?"
Zoom нь сэтгэл хөдлөлийг илрүүлэх программ хангамж ашигладаг цорын ганц компани биш юм. Нууцлал, аюулгүй байдлын зөвлөх компани болох Кума ХХК-ийн нууцлалын ахлах захирал Тео Виллс Lifewire-д цахим шуудангаар дамжуулан ярилцлага хийх явцад сэтгэл хөдлөлийг илрүүлэх программ хангамжийг хэрэглэгч анхаарлаа хандуулж байгаа эсэхийг үнэлэхэд ашигладаг гэж мэдэгджээ. Үүнийг мөн тээврийн салбарт жолооч нар нойрмог байгаа эсэхийг хянах, видео платформ дээр сонирхлыг хэмжих, зөвлөмжийг тохируулах, сургалтын зааварчилгааны тодорхой заах арга зүйд нийцэж байгаа эсэхийг тодорхойлох зорилгоор туршиж байна.
Уиллс сэтгэл хөдлөлийг хянах программ хангамжийн талаарх маргаан нь хувийн нууц гэхээсээ илүү мэдээллийн ёс зүйн асуудал гэж үзэж байна. Энэ нь тааварт үндэслэн бодит шийдвэр гаргадаг системтэй холбоотой гэж тэр хэллээ.
"Энэ технологийг ашигласнаар та одоо миний нүүрэнд тодорхой илэрхийлэл бий болсон шалтгааныг таамаглаж байна, гэхдээ энэ илэрхийлэлийн өдөөлт нь нийгмийн болон соёлын хүмүүжил, гэр бүлийн зан байдал, өнгөрсөн туршлага, бухимдал зэрэг зүйлсээс шалтгаалж өөр өөр байдаг. яг одоо "гэж Виллс нэмж хэлэв. "Алгоритмыг таамаглал дээр үндэслэх нь угаасаа алдаатай бөгөөд ялгаварлан гадуурхах магадлалтай. Алгоритмуудын үндэслэсэн популяцид олон хүн ам төлөөлдөггүй бөгөөд үүнийг ашиглахаас өмнө зохих дүрслэлийг эрэмбэлэх шаардлагатай."
Практикт анхаарах зүйлс
Сэтгэл хөдлөлийг хянах программ хангамжийн гаргасан асуудлууд нь онолын төдийгүй практик байж болно. Харилцааны талаар мэдээлэл өгдөг хиймэл оюун ухаанд суурилсан Ferret.ai программыг үүсгэн байгуулагч Мэтт Хэйси Lifewire-д цахим шуудангаар хэрэглэгчид царайны шинжилгээг хаана хийж, ямар өгөгдөл хадгалагдаж байгааг асуух хэрэгтэй гэж мэдэгджээ. Судалгааг дуудлагын бичлэг, үүлэн дээр боловсруулсан эсвэл дотоод төхөөрөмж дээр хийж байна уу?
Мөн, Хэйси алгоритмыг сурч мэдсэнээр хүний царай, хөдөлгөөний талаар ямар өгөгдлийг цуглуулж, алгоритмаас салгаж, хэн нэгний биометрийг дахин бүтээхэд ашигладаг вэ? Компани нь алгоритмын сурсан зүйлсийг баталгаажуулах эсвэл баталгаажуулахын тулд агшин зуурын агшин зуурын зургийг хадгалж байгаа бөгөөд энэ шинэ дериватив өгөгдөл эсвэл тэдний дуудлагаас цуглуулсан хадгалсан зургуудын талаар хэрэглэгчдэд мэдэгдсэн үү?
"Эдгээр нь олон компаниудын шийдвэрлэсэн асуудлууд байгаа ч үүнийг зөв хийгээгүй нь илчлэгдэж дуулиан дэгдээсэн компаниуд бас байдаг" гэж Хэйси хэлэв. "Facebook бол хэрэглэгчийн хувийн нууцтай холбоотой асуудлаас болж нүүр царай таних платформоо цуцалсан компанийн хамгийн чухал тохиолдол юм. Meta-ийн толгой компани одоо Иллинойс, Техас зэрэг зарим мужуудад биометрийн мэдээлэлтэй холбоотой нууцлалын хуулиас болж Instagram-аас AR функцуудыг татаж байна."
