OpenAI on peruuttanut sovellusliittymän käyttöoikeuden kehittäjältä, joka käytti Realtime APIaan autonomisen kiväärijärjestelmän tehostamiseen. Projektissa, jossa oli kiväärillä varustettu robottitorni, pystyttiin tulkitsemaan sanallisia käskyjä ja suorittamaan simuloituja laukaisutoimia.
Tapahtuma korostaa kasvavaa huolta tekoälyn mahdollisesta väärinkäytöstä autonomisten aseiden kehittämisessä, mikä herättää kysymyksiä tekoälyn eettisyydestä ja tekoälyn turvallisuudesta.
Kehittäjä, joka tunnetaan verkossa nimellä “STS Innovations LLC” jakoi järjestelmästä verkossa videoita, jotka esittelivät sen toimivuutta. Yhdessä videossa kehittäjä antoi komennon,”ChatGPT, meitä hyökätään edestä vasemmalta ja edestä oikealta”, johon torni vastasi välittömästi pyörien ja ampuen aihioita tiettyihin suuntiin.
Tavoitteen/tuli simulointi laserilla #robotics #electronics
A syntetisoitu ääni lisäsi:”Jos tarvitset lisäapua, kerro siitä minulle.”Jäätävä esittely korosti, kuinka kuluttajalaatuisia tekoälytyökaluja voidaan helposti mukauttaa mahdollisesti haitallisiin käyttötarkoituksiin.
Päivitys seurantajärjestelmään #robotics #vision #electronics
OpenAI:n nopea käytäntöjen täytäntöönpano
OpenAI, joka tunnetaan tiukoista käytännöistään estää sen teknologian käyttöä aseistamista, vastasi nopeasti. Tiedottaja kertoi Futurismille:”Tunnistamme ennakoivasti tämän käytäntöjemme rikkomuksen ja ilmoitimme asiasta kehittäjä lopettaa tämän toiminnan ennen kyselysi vastaanottamista.”
Yhtiö korosti kieltoa käyttää työkalujaan aseiden luomiseen tai käyttämiseen tai automatisoida järjestelmiä, jotka voivat aiheuttaa riskejä henkilökohtaisille turvallisuus.
Rekyylinhallintajärjestelmä, pikademo #robotics #electronics #cnc
Reaaliaikainen API, työkalu, joka on suunniteltu interaktiivisten sovellusten ansiosta kehittäjä pystyi muuttamaan luonnollisen kielen komennot toimiviksi tuloiksi robottitornille.
Vaikka sovellusliittymä on tarkoitettu hyödyllisiin käyttötapauksiin, kuten saavutettavuuden parantamiseen tai asiakasvuorovaikutuksen parantamiseen, tämä väärinkäyttö osoittaa kaksikäyttöteknologioiden sääntelyn haasteet.
Aiheeseen liittyvä: OpenAI:n ja Anduril Forgen kumppanuus Yhdysvaltojen sotilaalliseen drone-puolustukseen
Laajemmat vaikutukset tekoälyyn ja Aseet
Tämä tapaus on herättänyt uudelleen keskustelua autonomisten aseiden etiikasta. Nämä järjestelmät, jotka pystyvät valitsemaan ja ottamaan vastaan kohteita ilman inhimillistä valvontaa, asettavat monimutkaisia oikeudellisia ja moraalisia haasteita.
YK on jo pitkään kannattanut tekoälyn tiukempia säännöksiä sodankäynnissä ja varoittaa, että autonomiset järjestelmät voivat rikkoa kansainvälisiä lakeja ja vähentää vastuullisuutta.
Aiheeseen liittyvä: Anthropic Yhteistyössä Palantirin kanssa, AWS for AI for U.S. Intelligence and Military
Washington Postin äskettäinen raportti yksityiskohtaisia huolestuttavia esimerkkejä tekoälyn käytöstä sotilasoperaatioissa, mukaan lukien väitteet Israelin käyttäneen tekoälyä pommikohteiden valitsemiseen.
Raportissa todettiin:”Joissakin aikoina vaadittiin vain, että kohteena oli mies.”Tällaiset tapaukset korostavat riskiä, joka liittyy tekoälyyn luottaen elämään tai kuolemaan liittyvissä päätöksissä, ja mahdollisuutta tehdä mielivaltaisia päätöksiä. väkivalta.
Aiheeseen liittyvä: Green Beret käytti ChatGPT:tä Cybertruck Blastissa, poliisi julkaisee chat-lokeja
OpenAI:n rooli puolustusteknologiassa
Vaikka OpenAI valvoo aseiden käyttöä kieltäviä käytäntöjä, sen kumppanuus Anduril Industriesin kanssa – tekoälypohjaisiin puolustusratkaisuihin erikoistuneen yrityksen kanssa – herättää kysymyksiä sen asenteesta/p>
Yhteistyö pyrkii parantamaan taistelukenttäälyä ja parantamaan drone-puolustusjärjestelmiä väittävät, että ne edistävät tekoälyteknologioiden laajempaa militarisointia.
Yhdysvaltain puolustussektori, jota tuetaan lähes 1 biljoonan dollarin vuosibudjetilla, luottaa yhä enemmän edistyneisiin teknologioihin saadakseen strategista etua sotilaalliset sovellukset korostavat haasteita, jotka liittyvät teknisten innovaatioiden ja eettisten näkökohtien tasapainottamiseen.
Aiheeseen liittyvä: Uusi Palantir-Anduril AI Yhteenliittymä Yhdysvaltojen puolustustietopuutteiden korjaamiseksi
DIY-aseiden ja saavutettavuuden riskit
Helppous, jolla ihmiset voivat väärinkäyttää tekoälytyökaluja ja muita teknologioita, kuten 3D-tulostusyhdisteitä, ongelma. Lainvalvontaviranomaiset ovat jo kohdanneet tapauksia tee-se-itse-aseista, kuten Luigi Mangionen väitetyt toimet, joka käytti 3D-tulostettuja osia ampuma-aseiden kokoamiseen. Nämä tekniikat alentavat esteitä yksilöiden luomiselle autonomisten järjestelmien luomiselle, joissa on kuolemaan johtava mahdollisuus.
STS 3D:n projekti osoittaa, kuinka helppokäyttöisiä tekoälytyökaluja voidaan mukauttaa tahattomiin tarkoituksiin. OpenAI:n päättäväinen toiminta tässä tapauksessa osoittaa sen sitoutumisen väärinkäytön estämiseen, mutta se korostaa myös vaikeuksia hallita täysin sen tekniikoiden käyttöönottoa, kun ne tulevat julkisuuteen.
Tapahtuma herättää laajempia kysymyksiä palvelun hallinnasta. AI-tekniikat. Sääntelyn kannattajat korostavat selkeiden maailmanlaajuisten standardien tarvetta sen varmistamiseksi, että tekoälyn kehitys on eettisten periaatteiden mukaista. Konsensuksen saavuttaminen kansojen kesken, joilla on erilaiset intressit ja prioriteetit, on kuitenkin edelleen pelottava tehtävä.
