Үндсэн санаанууд
- Судлаачид хуурамч мэдээг илрүүлж, дарцаглах зорилготой хиймэл оюун ухааны системийг бүтээжээ.
- Загвар нь хуурамч мэдээний олон нийтийн мэдээллийн багцыг судалж, хэрэглэгчдэд сэрэмжлүүлж, баталгаажуулсан мэдээллийн эх сурвалж руу дахин чиглүүлдэг.
-
Онлайн худал мэдээтэй тэмцэх хиймэл оюун ухааны аргуудын тоо нэмэгдэж байна.
Хиймэл оюун ухаан (AI) нь хуурамч мэдээллийн цахим орчинд хурдацтай тархах явдлыг таслан зогсооход тусалж байна гэж шинжээчид үзэж байна.
Судлаачид хуурамч мэдээг илрүүлж, илрүүлэх зорилготой хиймэл оюун ухааны системийг бүтээжээ. Энэхүү загвар нь хуурамч мэдээний олон нийтийн мэдээллийн санг судалж, хэрэглэгчдэд анхааруулж, баталгаажуулсан мэдээллийн эх сурвалж руу чиглүүлдэг. Энэ нь худал мэдээний эсрэг өсөн нэмэгдэж буй хиймэл оюун ухааны аргуудын нэг хэсэг юм.
"Интернэт, тэр дундаа олон нийтийн сүлжээнд урсаж буй мэдээллийн хэмжээ асар их бөгөөд гараар зохицуулах боломжгүй, ялангуяа өндөр нарийвчлалтай" гэж боловсруулсан Өмнөд Калифорнийн их сургуулийн компьютерийн инженерийн профессор Ваэл АбдАлмагеед Харааны ташаа мэдээллийг илрүүлэх хиймэл оюун ухааны алгоритмууд гэж Lifewire-д өгсөн цахим ярилцлагадаа хэлэв.
"Буруу мэдээлэл тархаж эхэлмэгц хүмүүсийг худал гэдэгт итгүүлэхэд хэцүү байдаг, ялангуяа ташаа мэдээлэл нь бидний өрөөсгөл ойлголтыг баталж байгаа тул бодит цаг хугацаанд нь ташаа мэдээлэлд хяналт тавьж, мэдэгдэх нь чухал" гэж тэр нэмж хэлэв.
Бодит байдалд байлгах
Австралийн Маккуари их сургуулийн багийн боловсруулсан хиймэл оюун ухаан нь хуурамч мэдээний тархалтыг бууруулахад тусална. Уг загварыг апп эсвэл вэб программ хангамжид оруулах боломжтой бөгөөд хэрэглэгч бүрийн сонирхолд нийцсэн "үнэн" мэдээллийн холбоосыг санал болгодог.
"Таныг онлайн мэдээ унших эсвэл үзэх үед ижил төстэй үйл явдал эсвэл сэдвийн талаархи мэдээг зөвлөмж загвар ашиглан танд санал болгодог" гэж судалгаанд ажиллаж байсан Маккуари их сургуулийн мэдээлэл судлаач Шоужин Ванг хэлэв. мэдээ.
Ванг хэлэхдээ нэг үйл явдалтай холбоотой үнэн зөв мэдээ, худал мэдээ нь ихэвчлэн өөр контентын хэв маягийг ашиглаж, компьютерийн загваруудыг өөр өөр үйл явдлын мэдээ мэтээр төөрөгдүүлдэг.
Macquarie Их Сургуулийн загвар нь мэдээ бүрийн мэдээллийг хоёр хэсэгт хуваадаг: тухайн мэдээ хуурамч эсэхийг харуулах тэмдэг, тухайн мэдээний сэдэв эсвэл үйл явдлыг харуулсан үйл явдлын тухай мэдээлэл. Дараа нь уг загвар нь хэрэглэгч дараа нь унших сонирхолтой мэдээг урьдчилан таамаглахын тулд өөр өөр мэдээний хэсгүүдийн хооронд шилжих хэв маягийг хайдаг.
Судалгааны баг PolitiFact болон GossipCop-ын хуурамч мэдээг мэдээллийн агуулга, нийгмийн нөхцөл байдал, хэрэглэгчийн уншсан түүх зэрэг өгөгдлийн хамт хадгалдаг FakeNewsNet хэмээх GitHub дээр нийтлэгдсэн олон нийтийн мэдээллийн багц дээр загварыг сургасан.
Худал мэдээний өсөлт
Худал мэдээ нь улам бүр нэмэгдэж буй асуудал болж байгааг судалгаа харуулж байна. NewsGuard олон нийтийн мэдээллийн хэрэгслийн өсөлтийн нэлээд хэсэг нь найдваргүй вэбсайтуудаас үүдэлтэй болохыг олж мэдэв.2020 онд шилдэг 100 мэдээллийн эх сурвалжийн оролцооны 17 хувь нь Улаан үнэлгээтэй (ерөнхийдөө найдваргүй) сайтуудаас ирсэн бол 2019 онд ойролцоогоор 8 хувьтай байсан.
Санта Клара их сургуулийн Марккула Хэрэглээний ёс зүйн төвийн Сэтгүүл зүй, хэвлэл мэдээллийн ёс зүйн захирал Субраманиам Винсент Lifewire-д цахим шуудангаар ярилцлага өгөхдөө хиймэл оюун ухаан нь ташаа мэдээлэлтэй тэмцэхэд тусална гэж хэлсэн.
Технологийг "үзэн ядсан үг хэллэг, аль хэдийн няцаасан нэхэмжлэлтэй холбоотой зохион байгуулалттай хуваалцсан дансны үйлдлийг хянах, эсвэл баримт шалгагчид эсвэл мэдэгдэж буй суртал ухуулагч төрийн байгууллагууд эсвэл гишүүнчлэлийн тоо хурдацтай нэмэгдэж буй шинэ бүлгүүдээр няцаагдсан" гэж Винсент тайлбарлав. "Хуваалцахаасаа өмнө тодорхой төрлийн контентыг дарцаглахын тулд хиймэл оюун ухааныг дизайны хамт ашиглаж болно."
AbdAlmageed хэлэхдээ, нийгмийн сүлжээнүүд хуурамч мэдээ илрүүлэх алгоритмуудыг зөвлөмжийн алгоритмынхаа нэг хэсэг болгон нэгтгэх шаардлагатай байна. Зорилго нь "хэрэв хуурамч мэдээ хуваалцахаас бүрэн сэргийлэхийг хүсэхгүй байгаа бол хуурамч мэдээг худал эсвэл үнэн зөв биш гэж тэмдэглэх"гэж тэр хэллээ.
Ингэснээр хиймэл оюун ухаан нь хуурамч мэдээтэй тэмцэхэд тустай байж болох ч энэ арга нь сул талуудтай гэж Винсент хэлэв. Асуудал нь хиймэл оюун ухааны системүүд хүний яриа, бичгийн утгыг ойлгох чадваргүй учраас тэд үргэлж муруйн ард байх болно.
"Хиймэл оюун ухаан нь илт үзэн ядсан үг хэллэг, худал мэдээлэлд илүү нарийвчлалтай хандах тусам хүн төрөлхтний соёл илүү шинэ код, газар доорх утгыг зохион байгуулахад шилжих болно" гэж Винсент хэлэв.
Хуурамч мэдээлэлд хяналт тавих Blackbird. AI компанийн гүйцэтгэх захирал Васим Халед Lifewire-д илгээсэн цахим шуудангаар онлайн худал мэдээлэл нь улам бүр нэмэгдэж буй аюул болж байна гэж мэдэгджээ. Шинэ хиймэл оюун ухааны системүүд дараа нь хуурамч мэдээ хаана гарч ирэхийг урьдчилан таамаглах чадвартай байх шаардлагатай.
"Ихэнх тохиолдолд та хиймэл оюун ухаантай бүтээгдэхүүн бүтээж, үүнийг дууссан гэж нэрлэж болохгүй" гэж Халед хэлэв. "Зан үйлийн хэв маяг цаг хугацааны явцад өөрчлөгддөг ба таны хиймэл оюун ухааны загварууд эдгээр өөрчлөлтийг дагаж мөрдөх нь чухал."
