Үндсэн санаанууд
- Програм хангамжийн шинэ хэрэгсэл нь хиймэл оюун ухаанд үзэн ядсан үг хэллэгийн талаарх интернетийн сэтгэгдлийг хянах боломжийг олгодог.
- Асар их хэмжээний материал хүний чадавхаас давсан учир интернетийн агуулгыг зохицуулахад AI хэрэгтэй.
- Гэхдээ зарим мэргэжилтнүүд хэл яриаг хиймэл оюун ухаанаар хянадаг нь нууцлалын асуудал үүсгэдэг гэж хэлдэг.
Онлайнаар үзэн ядсан яриа өсөхийн хэрээр хүний модераторуудад найдахгүй шийдэлтэй байж магадгүй гэж нэг компани хэлж байна.
Спектр лаборатори нэртэй стартап нь платформ нийлүүлэгчдэд хортой солилцоог бодит цаг хугацаанд илрүүлж, хаах хиймэл оюун ухааны технологийг олгодог. Гэхдээ хиймэл оюун ухааны хяналт нь хувийн нууцтай холбоотой асуудал үүсгэдэг гэж мэргэжилтнүүд хэлж байна.
"AI хяналт нь ихэвчлэн цаг хугацааны явцад хэв маягийг харахыг шаарддаг бөгөөд энэ нь өгөгдлийг хадгалах шаардлагатай болдог" гэж аюулгүй байдал, нууцлалын нийцлийн үнэлгээний Schellman компанийн ахлах ажилтан Дэвид Мүүди Lifewire-д өгсөн цахим ярилцлагадаа хэлэв. "Энэ өгөгдөлд хуулинд нууцлалын өгөгдөл (хувийн таних боломжтой мэдээлэл эсвэл PII) гэж тэмдэглэсэн өгөгдлийг агуулж болно."
Илүү үзэн ядсан яриа
Spectrum Labs нь үзэн ядсан үг хэллэгийн олон жилийн асуудлыг шийдвэрлэх өндөр технологийн шийдлийг амлаж байна.
"Бид платформуудад контент зохицуулах хүчин чармайлтыг дунджаар 50%-иар бууруулж, хорт зан үйлийн илрүүлэлтийг 10 дахин нэмэгдүүлэхэд тусалдаг" гэж компани вэбсайтдаа мэдэгджээ.
Spectrum нь 40 гаруй зан үйлийг тодорхойлох загвар бүтээхийн тулд тодорхой хор хөнөөлтэй зан үйлийн чиглэлээр мэргэшсэн судалгааны хүрээлэнгүүдтэй хамтран ажилласан гэжээ. Тус компанийн Guardian контентыг зохицуулах платформыг мэдээлэл судлаач, зохицуулагчдын баг "нийгмийг хордлогоос хамгаалахад дэмжлэг үзүүлэх зорилгоор бүтээжээ."
Хүн онлайн траффик бүрийг хянах боломжгүй тул үзэн ядсан үг хэллэгтэй тэмцэх арга замуудын хэрэгцээ улам бүр нэмэгдсээр байна. AssemblyAI-ийн Гүйцэтгэх захирал Дилан Фокс, яриа таних үйл ажиллагаа явуулдаг, үйлчлүүлэгчдийг үзэн ядалтыг хянахад оролцдог гарааны бизнес. гэж Lifewire-д өгсөн цахим ярилцлагадаа хэлсэн байна.
"Зөвхөн Твиттерт өдөрт 500 сая орчим жиргээ байдаг" гэж тэр нэмж хэлэв. "Нэг хүн 10 секунд тутамд жиргээг шалгадаг байсан ч twitter үүнийг хийхийн тулд 60 мянган хүнийг ажиллуулах шаардлагатай. Үүний оронд бид үйл явцыг автоматжуулахын тулд хиймэл оюун ухаан гэх мэт ухаалаг хэрэгслийг ашигладаг."
Хүнээс ялгаатай нь хиймэл оюун ухаан нь 24/7 ажиллах боломжтой бөгөөд энэ нь хувийн итгэл үнэмшилд хөндлөнгөөс оролцохгүйгээр бүх хэрэглэгчдэд дүрэм журмыг жигд хэрэгжүүлэхэд зориулагдсан тул илүү шударга байх боломжтой гэж Фокс хэлэв. Контентыг хянаж, зохицуулах шаардлагатай хүмүүст бас зардал гардаг.
"Тэд хүчирхийлэл, үзэн ядалт, бусармаг үйлдэлд өртөж, хүний сэтгэцийн эрүүл мэндэд сөргөөр нөлөөлж болзошгүй" гэж тэр хэлэв.
Spectrum нь онлайнаар үзэн ядсан яриаг автоматаар илрүүлэхийг эрмэлздэг цорын ганц компани биш юм. Жишээлбэл, Малайзын төв нь саяхан Малайзын интернэт хэрэглэгчдийн дунд үзэн ядсан үг хэллэгийг илрүүлэх зорилготой онлайн мөрдөгчийг эхлүүлсэн. Тэдний хөгжүүлсэн Tracker Benci программ хангамж нь онлайн, ялангуяа Twitter дээр үзэн ядсан яриаг илрүүлэхийн тулд машин сургалтыг ашигладаг.
Хүмүүс бие биетэйгээ бүтээлчээр харилцах орон зайг хэрхэн бий болгох вэ гэдэг нь сорилт юм.
Нууцлалын асуудал
Спектр зэрэг технологийн шийдлүүд онлайн үзэн ядалттай тэмцэж болох ч компьютерууд хэр их цагдаа хийх ёстой вэ гэсэн асуултуудыг төрүүлдэг.
Үг хэлэх эрх чөлөөний нөлөөлөл байдаг, гэхдээ зөвхөн үзэн ядсан үг хэллэг гэж бичсэн нийтлэлийг нь хассан илтгэгчдэд ч биш гэж Санта Клара их сургуулийн Марккула Хэрэглээний ёс зүйн төвийн интернетийн ёс зүй хариуцсан захирал Ирина Райку Lifewire-д цахим шуудангаар мэдэгдэв. ярилцлага.
"Үг хэлэх эрх чөлөөний нэрийн дор дарамт шахалт үзүүлэхийг зөвшөөрөх нь ийм ярианы байг (ялангуяа тодорхой хүмүүст чиглэсэн тохиолдолд) ярихаа больж, янз бүрийн яриа, платформоос бүрмөсөн татгалзахад хүргэсэн "гэж Райку хэлэв."Хүмүүс бие биетэйгээ бүтээлчээр харилцах орон зайг хэрхэн бий болгох вэ гэдэг нь сорилт юм."
Хяналтын явцад компаниуд нийтэд нээлттэй мэдээллийг ашигладаг бол AI ярианы хяналт нь нууцлалын асуудал үүсгэх ёсгүй гэж Фокс хэлэв. Гэсэн хэдий ч, хэрэв компани асуудалтай хэрэглэгчдийг урьдчилан тодорхойлохын тулд бусад платформ дээр хэрэглэгчид хэрхэн харилцдаг талаарх дэлгэрэнгүй мэдээллийг худалдаж авбал энэ нь нууцлалын асуудал үүсгэж болзошгүй.
"Энэ нь хэрэглэгдэхүүнээс хамааран бага зэрэг саарал өнгөтэй байж магадгүй" гэж тэр нэмж хэлэв.
Spectrum Labs-ын гүйцэтгэх захирал Жастин Дэвис Lifewire-д цахим шуудангаар компанийн технологи нь секундын дотор 2-5 мянган мөр өгөгдлийг хянаж чадна гэж мэдэгджээ. "Хамгийн чухал нь технологи нь хүний зохицуулагчид өртөх хорт бодисын хэмжээг бууруулж чадна" гэж тэр хэлэв.
Бид хүний яриа, бичвэрийг онлайнаар хянах хиймэл оюун ухаанд хувьсгалын ирмэг дээр байж магадгүй. Ирээдүйн ахиц дэвшилд үзэн ядсан үг хэллэгийн урьд өмнө мэдэгдээгүй хэлбэр эсвэл хөгжих бусад цензуртай хэв маягийг тодорхойлох бие даасан, бие даасан хяналтын чадавхийг багтаана гэж Moody хэлэв.
AI удахгүй тодорхой ярианы хэв маягийн хэв маягийг таньж, мэдээний дүн шинжилгээ, олон нийтийн мэдүүлэг, замын хөдөлгөөний хэв маягийн дүн шинжилгээ, физик хяналт болон бусад олон сонголтоор дамжуулан эх сурвалж болон тэдгээрийн бусад үйл ажиллагааг холбох боломжтой болно гэж тэр нэмж хэлэв.
Гэхдээ зарим мэргэжилтнүүд үзэн ядсан хэллэгийг хянахын тулд хүмүүс үргэлж компьютертэй ажиллах шаардлагатай болно гэж хэлдэг.
"Зөвхөн хиймэл оюун ухаан ажиллахгүй" гэж Райку хэлэв. "Үүнийг бусад хариултуудтай хослуулан ашиглах ёстой төгс бус хэрэгсэл гэж хүлээн зөвшөөрөх ёстой."
Засвар 2022 оны 1/25: Нийтлэлийн дараах имэйлийг тусгахын тулд 5-р догол мөрөнд Жастин Дэвисийн ишлэлийг нэмсэн.
