Maling na-flag ng algorithm ng Meta para sa pagtukoy ng mapaminsalang nilalaman ang pahayag ng misyon nito,”pinaglapit ang mundo,”na nagpapakita ng napakataas na ugnayan sa pagitan ng”Meta”at ng konsepto ng isang”Organisasyon ng Teroris.”
Ang Ang insidente ay humantong sa mabilis na pagtanggal kay Sebastian Carlos, isang bagong upahang empleyado na inatasang mag-overhaul sa algorithm, na naglabas ng mga etikal at teknikal na tanong tungkol sa papel ng AI sa content moderation, habang nagkukuwento siya sa isang blog post.
Isang Bold Overhaul ng Content Moderation
Nagsimula ang kontrobersya nang sumali ang developer na si Sebastian Carlos Ang koponan ng”Mapanganib na Pagtukoy ng Nilalaman”ng Meta sa kanyang unang linggo bilang isang bagong empleyado. May tungkulin sa pagpapabuti ng kahusayan at katumpakan ng mga sistema ng pag-moderate ng nilalaman ng Meta, natukoy nila ang mga makabuluhang pagkukulang sa umiiral na algorithm.
Nagmungkahi si Carlos ng radikal na muling pagsulat gamit ang Prolog, isang programming language na kilala sa kakayahang pangasiwaan ang simbolikong pangangatwiran at kumplikadong mga relasyon. Dahil sa pagiging deklaratibo ng Prolog, naging partikular na angkop ito upang suriin ang magkakaibang kahulugan ng mapaminsalang nilalaman.
Upang palakasin ang pag-unawa sa konteksto ng algorithm, isinama ng overhaul ang magkakaibang mga dataset, kabilang ang Wikipedia, mga relihiyosong teksto, at mga encyclopedia. Sa multi-faceted approach na ito, nilalayon ni Carlos na tiyakin ang cultural at contextual inclusivity. Gayunpaman, ang pamamaraang ito ay nangangailangan din ng malawak na mapagkukunan ng computational.
Ipinaliwanag ni Carlos kung paano ginamit ang sukatan ng panloob na gastos ng Meta, na nakakatawang tinutukoy bilang”Mga Taon ng Guatemala”(katumbas ng GDP ng Guatemala), upang bigyang-katwiran ang mga gastos sa pagkalkula.
Ang binagong algorithm ay idinisenyo upang iproseso ang milyun-milyong mga post araw-araw, sinusuri ang kanilang nilalaman laban sa isang napakadetalyadong moral na topolohiya Ayon kay Carlos, ang layunin ay lumikha ng isang walang pinapanigan na sistema na may kakayahang tumpak na ikategorya ang nakakapinsala materyal.”Hindi bias ang system; sinunod lang nito ang mga panuntunang ibinigay namin dito,”paliwanag nila.
Kapag Lumiko ang AI
Sa panahon nito unang major test run, na-flag ng na-update na algorithm ang mission statement ng Meta bilang nakakapinsalang content.
Ang pag-debug ay nagsiwalat ng walang mga error sa lohika. Sa halip, tinukoy ng advanced na pagsusuri ng system ang isang mataas na ugnayan sa pagitan ng terminong”Meta”at mga pariralang nauugnay sa”terorismo”at”overreach ng korporasyon.”Ang hindi inaasahang resulta na ito ay na-highlight ang mga hamon ng pagsasanay sa mga AI system upang mag-navigate sa mga hindi malinaw na konsepto tulad ng moralidad at pinsala.
Ang na-flag na pahayag ay nag-udyok ng agarang panloob na mga talakayan. Pinuri ng ilang mga inhinyero ang higpit ng algorithm, habang ang iba ay nag-aalala tungkol sa mga potensyal na relasyon sa publiko Ang isang senior manager ay iniulat na nagsabi kay Carlos:”Hindi namin maabot ang aming mga OKR ng ganito,”na nagpapakita ng tensyon at lumalaking dibisyon sa pagitan ng teknikal na katumpakan at mga priyoridad ng organisasyon.
The Fallout: Ethics and NDAs
Lalong lumaki ang insidente nang ipinakita ni Carlos ang kanyang mga natuklasan sa isang pulong ng koponan. Sa kabila ng pagpapakita ng lohika sa likod ng mga desisyon ng algorithm, ang trabaho ng empleyado ay natugunan ng pagtutol mula sa mga nakatataas. Di-nagtagal, siya ay na-dismiss at hiniling na lumagda sa isang”double NDA,”isang hindi kilalang legal na mekanismo na idinisenyo upang ipatupad ang mahigpit na pagiging kumpidensyal.
A double NDA, na kilala rin bilang bilateral o mutual NDA, ay isang legal na may bisang kasunduan kung saan ang parehong partido ay kasangkot magbunyag ng kumpidensyal na impormasyon sa isa’t isa at sumang-ayon na protektahan ang impormasyong iyon mula sa karagdagang pagsisiwalat
Isinulat ni Carlos na ang kanyang abogado ay nagmumungkahi na ang mga naturang kasunduan ay maaaring magpawalang-bisa sa isa’t isa, na nagpapahintulot sa empleyado na talakayin ang kanilang karanasan sa publiko , siya ay nagtapos na”Ang katotohanan ay hindi palaging nakaayon sa mga layunin ng kumpanya.”
Ang Tungkulin ng AI sa Pag-moderate
Ang mga tool sa pagmo-moderate ng nilalaman ng Meta ay mahalaga sa pamamahala sa napakaraming nilalamang binuo ng user sa mga platform nito. Ang pagtitiwala ng kumpanya sa AI ay parehong pangangailangan at pinagmumulan ng kontrobersya, na may mga kritiko na nagtuturo sa mga pagkakataon ng overreach o hindi sapat na aksyon laban sa mapaminsalang materyal.
Ang insidente ay nagdaragdag sa pagsisiyasat, na naglalabas ng mga tanong tungkol sa transparency at pananagutan. sa paggawa ng desisyon ng AI. Maaaring bigyang-kahulugan ito ng mga kritiko ng Meta sa kabilang panig bilang tanda ng kahusayan ng mga algorithm.
Siguro ang mga gawi at ideolohikal na pagkiling ng Meta ay talagang katulad ng sa isang organisasyong terorista at ang algorithm ay spot-on? Kung walang mga teknikal na detalye maaari lamang nating hulaan. Ngunit para kay Carlos ang kinalabasan na ito ay nagtapos sa isang mahirap na simula sa kumpanya.
Gaya ng isinusulat din ni Carlos, ginamit ang augmented reality glasses ni Meta sa proseso ng kanyang pakikipanayam nang umasa sa kanila ang isang kasangkot na developer upang malutas ang isang hamon sa coding, pagwawasto at pagpapabuti ng iminungkahing solusyon ni Carlos. Pagkatapos ay hinarap niya ang tagapanayam sa kanyang mga natuklasan at ginamit pa ang insidenteng ito upang makipagtawaran ng mas mataas na suweldo kapag nagsimula sa Meta, na talagang bina-blackmail siya.
Isantabi ang side-story na ito, ang karanasan ni Carlos ay nagbibigay-pansin sa mga hindi inaasahang kahihinatnan ng mga AI system at binibigyang-diin ang kahirapan ng mga algorithm ng programming upang maunawaan at mailapat ang mga nuanced na konsepto ng tao tulad ng pinsala, moralidad, at kaligtasan.
Ang na-flag na pahayag ng misyon ay maaaring isang anomalya o isang tumpak na tugma. Anuman ang kaso, tiyak na hindi sasaluhin ito ng Meta.
