Үндсэн санаанууд
- Хүмүүсийг танилцуулахдаа хиймэл оюун ухааныг ашигладаг программ хангамж нь нууцлалын асуудал үүсгэж байна.
- Cryfe нь зан үйлийн шинжилгээний аргуудыг хиймэл оюун ухаантай хослуулсан.
- Хятадын Алибаба компани программ хангамжаараа уйгур болон бусад үндэстний цөөнхийг илрүүлж чадна гэж хэлсний дараа саяхан шүүмжлэлд өртсөн.
Ажил олгогчдод ажилчдаа танилцуулах зориулалттай хиймэл оюун ухаанаар ажилладаг шинэ программ хангамж нь хувийн нууцтай холбоотой асуудлуудыг нэмэгдүүлж байна.
Cryfe хэмээх шинэ программ хангамжийн платформ нь зан үйлийн шинжилгээний арга техникийг хиймэл оюун ухаантай хослуулсан. Програм хангамж нь жижиг сэжүүрүүдэд дүн шинжилгээ хийснээр ярилцлагын үеэр хүмүүсийн зорилгыг илчилж чадна гэж хөгжүүлэгч мэдэгджээ. Гэвч зарим ажиглагчид Cryfe болон зан төлөвт дүн шинжилгээ хийдэг бусад төрлийн программ хангамж нь хувийн нууцад халдаж болно гэж үзэж байна.
"Компаниуд профайл гаргахдаа хиймэл оюун ухаанд улам бүр найддаг" гэж хиймэл оюун ухааны мэргэжилтэн Вацлав Винчале цахим шуудангаар ярилцлага өгөхдөө хэлэв. "Гэхдээ эдгээр алгоритмыг кодлодог хүмүүс ч гэсэн, таны утсаар холбогддог хэрэглэгчийн тусламжийн ажилтан ч гэсэн яагаад ямар нэгэн зөвлөмж өгснөө хэлж чадахгүй."
Үгнээс илүү
Cryfe-ийг Швейцарийн компани бүтээсэн бөгөөд ажилчдаа Холбооны мөрдөх товчооноос профайл гаргах арга техникт сургасан. Cryfe-ийг үүсгэн байгуулагч Каролайн Маттеуччи цахим шуудангаар ярилцлага өгөхдөө "Крайф хүн хоорондын харилцааны хувьд зөвхөн үгийг сонсдоггүй, харин сэтгэл хөдлөл, бичил илэрхийлэл, бүх дохио зангаа гэх мэт хүний ялгаруулдаг бусад дохиог тодорхойлдог."
"Жишээ нь ажилд авах үед энэ нь ярилцагчийнхаа жинхэнэ зан чанарыг хайж олох боломжийг олгодог."
Matteucci хэлэхдээ, компани нь программ хангамж нь хэрхэн ажилладаг талаар ил тод байдаг тул хэрэглэгчдийн нууцлал хамгаалагдсан. "Хэрэглэгч платформыг ашиглахын өмнө ерөнхий нөхцлийг хүлээн зөвшөөрөх ёстой" гэж тэр хэлэв.
"Хэрэглэгч ямар ч тохиолдолд ярилцагчаас бичгээр зөвшөөрөл авалгүйгээр ярилцлага өгөхийг хориглоно гэж заасан."
Cryfe нь хүний зан төлөвт дүн шинжилгээ хийх зорилготой цорын ганц хиймэл оюун ухаантай программ биш юм. Хэрэглэгчийн зан төлөвт дүн шинжилгээ хийдэг гэж үздэг Humantic бас байдаг. "Humantic-ийн шинэ технологи нь хүн бүрийн зан төлөвийг урьдчилан таамаглаж, зан чанарын шалгалт өгөх шаардлагагүй" гэж компанийн вэбсайтад бичсэн байна.
Компани нь анкет, нүүр захидал, LinkedIn профайл болон илгээсэн бусад текстэд ашигладаг үгс дээр үндэслэн өргөдөл гаргагчийн сэтгэл зүйн профайлыг бий болгоход хиймэл оюун ухаан ашигладаг гэж мэдэгддэг.
Зан үйлийн программ хангамж нь өмнө нь хууль эрх зүйн бэрхшээлтэй тулгарч байсан. 2019 онд Bloomberg хуулийн дагуу Хөдөлмөр эрхлэлтийн тэгш байдлын хороо (EEOC) нь алгоритмын тусламжтайгаар хүний нөөцтэй холбоотой шийдвэрийн улмаас хууль бусаар ялгаварлан гадуурхсан гэх хэргийг шалгасан гэж мэдээлсэн.
"Ажил авах ирээдүй бол хиймэл оюун ухаан учраас энэ бүхнийг шийдэх хэрэгтэй" гэж хуульч Брэдфорд Ньюман Bloomberg-т хэлэв.
Зарим ажиглагчид зан төлөвийг хянах программ хангамжийг ашигладаг компаниудад хангалттай нарийвчлалгүй тул асуудалтай ханддаг. Мэргэжлийн үйлчилгээний EY фирмийн дэлхийн хиймэл оюун ухааны удирдагч Найжел Даффи "InformationWeek" сэтгүүлд өгсөн ярилцлагадаа олон нийтийн мэдээллийн хэрэгслээр асуулт асууж, илрүүлэхэд нөлөөлдөг програм хангамжаас болж зовж шаналж байгаагаа хэлжээ.
"Би нөлөөллийг илрүүлэх боломжийн талаар үнэхээр сэтгэл хөдөлгөм ном зохиол байдаг гэж би бодож байна, гэхдээ миний ойлгож байгаагаар энэ арга нь ихэвчлэн гэнэн байдаг" гэж тэр хэлэв.
"Хүмүүс маш их инээмсэглэж байгаа учраас хэн нэгнийг сайн ажилтан гэж тодорхойлохыг шинжлэх ухаан үнэхээр дэмждэггүй гэсэн дүгнэлт хийж байна, эсвэл тэд маш их инээмсэглэж байгаа учраас таны бүтээгдэхүүн хэн нэгэнд таалагдаж байна гэж шийдэх нь [жишээ нь]."
Хятадын компаниуд цөөнхийн тухай мэдээлсэн байна
Зан үйлийг хянах нь илүү хор хөнөөлтэй зорилготой байж магадгүй гэж зарим хүний эрхийн бүлгүүд хэлж байна. Хятадад онлайн зах зээлийн аварга Алибаба программ хангамжаараа уйгур болон бусад үндэстний цөөнхийг илрүүлж чадна гэж мэдэгдсэний дараа шуугиан тарьсан.
The New York Times компанийн үүлэн тооцооллын бизнест зураг, видео сканнердах программ хангамж байсан гэж мэдээлсэн.
Гэхдээ эдгээр алгоритмуудыг кодлодог хүмүүс ч гэсэн… яагаад ямар нэг зөвлөмж өгснөө хэлж чадахгүй байна.
Вашингтон Пост мөн саяхан Хятадын өөр нэг технологийн компани Huawei нь хяналтын камерууд нь уйгарчуудын царайг илрүүлэх үед хууль сахиулах байгууллагад дохио өгөх программ хангамж туршсан гэж мэдээлсэн.
Huawei компанийн 2018 оны патентын өргөдөлд нүүр царай таних технологид "явган хүний шинж чанарыг тодорхойлох нь маш чухал" гэж мэдэгдсэн."Зорилтот объектын шинж чанарууд нь хүйс (эрэгтэй, эмэгтэй), нас (өсвөр насныхан, дунд нас, хөгшин гэх мэт) [эсвэл] арьсны өнгө (Хан, Уйгур) байж болно" гэж аппликешнд тэмдэглэжээ.
Huawei компанийн хэвлэлийн төлөөлөгч CNN Business-т хэлэхдээ угсаатны гарал үүслийг тодорхойлох онцлог нь "хэрэглээний нэг хэсэг болж болохгүй"
Асар их хэмжээний өгөгдлийг ангилахын тулд хиймэл оюун ухааныг ашиглах нь улам бүр нэмэгдэж байгаа нь хувийн нууцтай холбоотой асуудал үүсгэх нь дамжиггүй. Та дараагийн удаа ажлын ярилцлагад орохоор хэн, юу танд дүн шинжилгээ хийж байгааг мэдэхгүй байж магадгүй.
