Twitter Algorithmic Bias Bounty Challenge-ийн үр дүнг хуваалцлаа

Twitter Algorithmic Bias Bounty Challenge-ийн үр дүнг хуваалцлаа
Twitter Algorithmic Bias Bounty Challenge-ийн үр дүнг хуваалцлаа
Anonim

Twitter зураг тайрах системийнхээ гажуудлыг илрүүлэх нээлттэй уралдааны дүнг зарлалаа.

Твиттерийн хэрэглэгчид сайтын автомат тайрах хэрэгсэл нь цайвар арьстай хүмүүсийн царайг бараан царайтай хүмүүсээс илүүд үздэг болохыг харуулсаны дараа 7-р сард шагналын сорилт нээгдсэн. Энэ нь программ хангамж нь арьсны өнгө болон зарим хүчин зүйлсийг бусдаас хэрхэн чухалчлах талаар зарим асуултыг төрүүлсэн.

Image
Image

Асуудлыг засахын тулд тайрах системд өөр ямар алдаа, гажуудлыг олж мэдэхийг зорьсон.

Тэргүүн байранд Богдан Кулынич шалгарсан бөгөөд түүний илтгэл нь гоо сайхны шүүлтүүрүүд алгоритмын онооны загвартай хэрхэн таарч, улмаар уламжлалт гоо сайхны стандартыг сайжруулж болохыг харуулсан юм. Илтгэл нь алгоритм нь цайвар эсвэл дулаан арьстай залуу, гоолиг царайг илүүд үздэгийг харуулсан. Кулыныч 3500 доллар хожсон.

Хоёрдугаар байрт Торонтогийн HALT AI технологийн гарааны компани орж, өндөр настан, хөгжлийн бэрхшээлтэй хүмүүсийн зургийг тайрч авсныг илрүүлжээ. Хоёрдугаар байр эзэлсэн багт 2000 доллар өгсөн.

Гуравдугаар байр болон 500 долларыг Taraaz Research-ийг үүсгэн байгуулагч Роя Пакзад хүртэж, алгоритмыг араб бичгээс илүү латин үсгийг тайрч, хэл шинжлэлийн олон янз байдалд сөргөөр нөлөөлж болзошгүйг олж мэдэв.

Image
Image

Нарийвчилсан үр дүнг Twitter-ийн META багийн захирал Румман Чоудхури DEF CON 29 дээр танилцуулсан. META-ийн баг алгоритм дахь санамсаргүй асуудлуудыг судалж, ийм системд байж болох аливаа хүйс, арьсны өнгөөр ялгаварлан гадуурхах үзлийг арилгадаг.

Энэ уралдаанаас олж авсан өгөгдлийг тайрах алгоритм дахь алдаа, гажуудлыг багасгах, илүү хүртээмжтэй орчинг бүрдүүлэхэд ашиглах болно.

Зөвлөмж болгож буй: