New Yorkin Metropolitan Transportation Authority (MTA) jatkaa suunnitelmiaan integroida keinotekoinen älykkyys laajalla metrokameraverkostollaan tunnistaakseen “ongelmallisen käyttäytymisen”alustoilla, viraston turvallisuuspäällikön mukaan. href=”https://gothamist.com/news/mta-wants-aai-to-flag-problematic-behavior-in-nyc-subways”Target=”_ tyhjä”> raportit New York City News-sivusto Gothamist. Aloite, joka on osa laajempaa turvallisuuspussia, joka paljastettiin 28. huhtikuuta pidetyssä komiteakokouksessa, herätti välittömästi kritiikkiä kansalaisvapauksien puolustajien puolustajilta algoritmisesta puolueellisuudesta ja laajentamalla hallituksen valvontaa.
Kemper vahvisti, että MTA on aktiivisesti yhteistyössä teknologiayritysten kanssa, ja toteaa, että “AI on tulevaisuus, mikä on nyt parannus, joka on tällä hetkellä. Mikä toimisi metrojärjestelmässä”hälyttää automaattisesti NYPD: tä”jos joku toimii irrationaalisesti.”MTA: n tutkiminen on suunniteltu tunnistamaan käyttäytyminen, ei ihmisiä”, ja vahvistetut kasvojentunnistustekniikkaa ei käytetä. Tämä ei ole MTA: n ensimmäinen AI-analytiikan käyttö; Vuonna 2023 virasto käytti Awaaitin ohjelmistoja analysoidakseen kameramateriaalia puhtaasti kohtaan Laske vice-vice-insensaatiot. MTA: n ja kuvernööri Kathy Hochulin puolustama suurempi turvallisuusaloite vuodesta 2021 lähtien, jotka johtuvat yleisön huolenaiheesta korkean profiilin suhteen, Proveloded Attack-sovellus. Tämä työntö on jo nähnyt kamerat asennettuna Jokainen metroalusta ja juna-auto , kun Kemper huomautti, Liittovaltion hallitus painosti myös aiemmin tänä vuonna ja pyysi virastolta yksityiskohtaista metroturvallisuussuunnitelmaa.
AI-valvonta täyttää kansalaisvapauksien huolenaiheet
kansalaisvapauksien ryhmät julistivat ehdotuksen nopeasti.”Keinotekoisen älykkyyden-tunnetusti epäluotettavan ja puolueellisen tekniikan-käyttäminen metrojemme seuraamiseksi ja poliisin riskeistä, jotka pahentavat näitä eroja ja luomalla uusia ongelmia”, totesi New Yorkin kansalaisvapauksien liitto (NYCLU) vanhempien politiikan neuvonantaja Justin Harrison ja lisää, että”lakaisussa valvontavaltiossa ei pidä olettavan yleisen turvallisuuden asuntoa. Valvonta.”
Valvontateknologian valvontaprojekti (S.T.O.P.) toisti nämä huolenaiheet kutsuen suunnitelmaa riippuvaiseksi”kammottavaan pseudotieteen”, joka todennäköisesti”leipoa puolueellisuudessa ja kriminalisoi BIPOC New Yorkerin kehot”. S.T.O.P. huomautti , että Kemper myönsi, että MTA on yhteistyössä yksityisten yritysten kanssa ja toimittaa heille MTA-valvontatiedot kehitystä varten.
Vaikka MTA kieltää kasvojentunnistuksen käytön tälle käyttäytymisanalyysille, New Yorkin osavaltion laki hyväksyi huhtikuussa 2024 jo MTA: ta käyttämästä MTA: ta biometrisen teknologian täytäntöönpanoon. On edelleen epäselvää, rajoittaako tämä laki NYPD: tä, joka on käyttänyt kasvojentunnistusta vuodesta 2011 ja käyttää MTA-syötteitä tällaisen tekniikan soveltamisesta samaan materiaaliin. Tämä uusi AI-suunnitelma noudattaa muita viimeaikaisia tekniikan käyttöönottoja, kuten NYPD: n AI-moottorien aseiden havaitsemiskannerien pilottia heinäkuusta 2024 alkavilla asemilla, jotka kohtasivat myös NYCLU-kritiikin. Julkisen liikenteen maailmanlaajuisesti matkustajien laskemiseen, vaarojen havaitsemiseen ja joukkojen tai vartioimattomien esineiden tunnistamiseen. Siihen sisältyy myös potentiaalisia kumppanuuksia suurten teknologiayritysten, kuten Google ja Amazonin, kanssa, jotka navigoivat omissa kiistoissaan.
Molemmilla yrityksillä oli voimakasta kritiikkiä NIMBUS-projektin, 1,2 miljardin dollarin pilvi-ja AI-sopimuksen suhteen Israelin hallituksen kanssa. Ihmisoikeusryhmät ja työntekijät väittivät, että hanke mahdollisti valvonta-ja oikeuksien väärinkäytökset viitaten Israelille erittäin suotuisat sopimusehdot ja avoimuuden puutteen. efekti :”Läpinäkyvyys ei ole ylellisyys, kun ihmisen oikeudet ovat vaarassa-sen eettinen ja oikeudellinen ovelaaminen.”Apartheidin työntekijöiden ryhmät väittivät, että “Amazon ja Google mahdollistavat maailman ensimmäisen AI-valikoiman genokon Nimbusin kautta,”johtavat Yli 50 Mielenosoitukset. Huolet siitä, että AI on asetettu uudelleen valvontaan, samanlaisia kuin Spot AI: n työpaikan interventiojärjestelmää koskevat. Lisäksi hallituksen tehokkuusministeriön (DOGE) väitetty AI: n käyttämä liittovaltion työntekijöiden seuraaminen tarjoaa äskettäisen esimerkin hallituksen AI-seurannasta, joka herättää eettisiä hälytyksiä.
Siirtymispolitiikan ja teollisuuden suuntausten
Ympäristö on myös muuttunut. Helmikuussa Google poisti virallisesti avainrajoitukset AI-periaatteistaan, poistaen aikaisemmat kiellot”aseiden tai muiden tekniikoiden kehittämisestä, joiden päätarkoituksena tai täytäntöönpano on aiheuttaa tai helpottaa ihmisten loukkaantumista”ja”tekniikoita, jotka keräävät tai käyttävät tietoja tarkkailuun, joka rikkoo kansainvälisesti vuonna 2018 hyväksytyn politiikan. AI-aloite. Googlen johto kehitti muutoksen linjaamiseksi demokraattisten arvojen ja kansallisen turvallisuuden kanssa ilmoittaen Yrityksen blogi , että “Yritykset, hallitukset ja organisaatiot, jotka jakavat yhdessä, että Globalot Globalot ja organisaatiot, jotka jakavat, että AI: n luova ja tukee kansallista turvallisuutta.”
Tämä strateginen muutos antaa Googlelle mahdollisuuden kilpailla suoraan Microsoftin ja Palantirin kaltaisten yritysten kanssa puolustussopimuksiin, mikä heijastaa laajempaa teollisuusmallia, jossa tekniset jättiläiset lisäävät hallituksen turvallisuusprojekteja. takana. Kuvernööri Hochulin tammikuussa 2024 ilmoittama New Yorkin osavaltion AI-politiikka tarjoaa ohjeita, mutta ei ole viranomaisia, jotka adoptoivat viranomaisia. Pyrkimykset, kuten G7: n Hiroshima-prosessi ja EU AI-laki, yhdessä Yhdysvaltain NIST AI-riskien hallintakehys , tarjoa periaatteita, mutta puuttuu erityinen täytäntöönpano sovelluksille, kuten julkinen purvellinen. Tämä sääntelyero jättää merkittävän harkintavaltaansa MTA: lle ja sen teknologiakumppaneille. MTA on osoittanut halukkuutta hyväksyä AI, viime aikoina suorittanut onnistuneen lentäjän Googlen julkinen sektori AI: n avulla AI: n havaitsemiseksi . Kun virasto etenee AI: n kanssa käyttäytymisen seurannasta, tiedonsuojasta, algoritmista puolueellisuutta, avoimuutta ja kokonaistehokkuutta turvallisuuden parantamisessa vaarantamatta kansalaisvapauksia, ovat edelleen keskeisiä keskustelun kannalta.
