Bawiin ng OpenAI ang API access para sa isang developer na gumamit ng Realtime API nito para paganahin ang isang autonomous rifle system. Ang proyekto, na kinasasangkutan ng isang robotic turret na nilagyan ng rifle, ay maaaring magbigay-kahulugan sa mga pandiwang utos at magsagawa ng mga simulate na pagkilos ng pagpapaputok.
Ang insidente ay binibigyang-diin ang lumalaking alalahanin tungkol sa potensyal na maling paggamit ng artificial intelligence sa pagbuo ng mga autonomous na armas, na naglalabas ng mga tanong tungkol sa etika ng AI at kaligtasan ng AI.
Ang developer, na kilala online bilang “STS Innovations LLC,” ay nagbahagi ng mga video ng system online, na nagpapakita ng functionality nito. Sa isang clip, inilabas ng developer ang command,”ChatGPT, inaatake tayo mula sa kaliwa at kanan sa harap,”kung saan agad na tumugon ang turret, umiikot at nagpaputok ng mga blangko sa mga tinukoy na direksyon.
Aim/fire simulation na may laser #robotics #electronics
Idinagdag ang isang synthesized na boses, “Kung kailangan mo ng anumang karagdagang tulong, ipaalam lang sa akin.”Itinampok ng nakakatakot na demonstrasyon kung paano madaling iakma ang mga tool ng AI na pang-consumer para sa mga potensyal na nakakapinsalang paggamit.
I-update sa system ng pagsubaybay #robotics #vision #electronics
Ang Swift Policy Enforcement ng OpenAI
Ang OpenAI, na kilala sa mga mahigpit na patakaran nito laban sa paggamit ng teknolohiya nito sa weaponization, ay agad na tumugon. Isang tagapagsalita ang nagsabi sa Futurism,”Proactive naming natukoy ang paglabag na ito sa aming mga patakaran at inabisuhan itigil ng developer ang aktibidad na ito bago matanggap ang iyong pagtatanong.”
Binigyang-diin ng kumpanya ang pagbabawal nito laban sa paggamit ng mga tool nito sa paggawa o pagpapatakbo ng mga armas o pag-automate mga system na maaaring magdulot ng mga panganib sa personal na kaligtasan.
Recoil management system, mabilis na demo #robotics #electronics #cnc
Ang Realtime API, isang tool na idinisenyo para sa interactive na mga application, pinahintulutan ang developer na ibahin ang anyo ng mga natural na utos ng wika sa mga naaaksyong input para sa robotic turret.
Habang ang API ay inilaan para sa mga kapaki-pakinabang na kaso ng paggamit, tulad ng pagpapahusay sa pagiging naa-access o pagpapabuti ng mga pakikipag-ugnayan ng customer, ang maling paggamit na ito ay nagpapakita ng mga hamon ng pag-regulate ng mga teknolohiyang dalawahan ang paggamit.
Kaugnay: OpenAI at Anduril Forge Partnership para sa U.S. Military Drone Defense
Mas malawak na Implikasyon para sa AI at Weaponization
Ang kasong ito ay muling nagpasimula ng mga debate tungkol sa etika ng mga autonomous na armas. Ang mga sistemang ito, na may kakayahang pumili at makipag-ugnayan sa mga target nang walang pangangasiwa ng tao, ay nagdudulot ng mga kumplikadong legal at moral na hamon.
Matagal nang itinaguyod ng United Nations ang mas mahigpit na mga regulasyon sa AI sa pakikidigma, nagbabala na ang mga autonomous system ay maaaring lumabag sa mga internasyonal na batas at mabawasan ang pananagutan.
Kaugnay: Anthropic Nakipagsosyo sa Palantir, AWS para sa AI sa U.S. Intelligence and Military
Isang ulat ng Washington Post kamakailan detalyadong nakakabahala na mga halimbawa ng pag-deploy ng AI sa mga operasyong militar, kabilang ang mga pag-aangkin na ginamit ng Israel ang AI upang pumili ng mga target na pambobomba.
Nabanggit sa ulat,”Sa ilang partikular na panahon, ang tanging kinakailangang patunay ay ang target ay isang lalaki.”Itinatampok ng mga ganitong kaso ang mga panganib ng pag-asa sa AI sa mga desisyon sa buhay-o-kamatayan at ang potensyal para sa walang pinipiling mga desisyon. karahasan.
Kaugnay: Gumamit ang Green Beret ng ChatGPT para sa Cybertruck Blast, Naglabas ang Pulisya ng Mga Chat-Log
Ang Tungkulin ng OpenAI sa Defense Technologies
Habang ang OpenAI ay nagpapatupad ng mga patakarang nagbabawal sa pag-armas, ang pakikipagsosyo nito sa Anduril Industries—isang kumpanyang nagdadalubhasa sa mga solusyon sa pagtatanggol na hinimok ng AI—ay naglalabas ng mga tanong tungkol sa paninindigan nito
Ang pakikipagtulungan ay naglalayong pahusayin ang larangan ng digmaan at pagbutihin ang mga sistema ng pagtatanggol ng drone Inilalarawan ng OpenAI ang mga pagsisikap na ito bilang depensiba, ngunit ang mga kritiko ay nangangatuwiran na nag-aambag sila sa mas malawak na militarisasyon ng Ang mga teknolohiya ng AI.
Ang sektor ng depensa ng U.S., na sinusuportahan ng taunang badyet na malapit sa $1 trilyon, ay lalong umaasa sa mga advanced na teknolohiya upang makakuha ng isang madiskarteng kalamangan pagbabago na may mga etikal na pagsasaalang-alang.
Kaugnay: Bagong Palantir-Anduril AI Consortium na Tatalakayin U.S. Defense Data Gaps
DIY Weaponization and Accessibility Risks
Ang kadalian ng paggamit ng mga indibidwal sa mga tool ng AI at iba pang teknolohiya tulad ng 3D printing ay nagsasama ng problema. Ang pagpapatupad ng batas ay nakatagpo na ng mga kaso ng DIY weaponization, gaya ng mga di-umano’y aksyon ni Luigi Mangione, na naiulat na gumamit ng mga 3D-print na bahagi upang mag-assemble ng mga baril. Ang mga teknolohiyang ito ay nagpapababa ng mga hadlang para sa mga indibidwal na lumikha ng mga autonomous system na may potensyal na nakamamatay.
Ipinapakita ng proyekto ng STS 3D kung paano maaaring iakma ang mga naa-access na tool ng AI para sa mga hindi sinasadyang layunin. Ang mapagpasyang aksyon ng OpenAI sa pagkakataong ito ay nagpapakita ng pangako nito sa pagpigil sa maling paggamit, ngunit binibigyang-diin din nito ang kahirapan ng ganap na pagkontrol kung paano ipinapatupad ang mga teknolohiya nito kapag nakapasok na sila sa pampublikong domain.
Ang insidente ay naglalabas ng mas malawak na mga katanungan tungkol sa pamamahala ng Mga teknolohiya ng AI. Binibigyang-diin ng mga tagapagtaguyod para sa regulasyon ang pangangailangan para sa malinaw na mga pandaigdigang pamantayan upang matiyak na naaayon ang pagpapaunlad ng AI sa mga prinsipyong etikal. Gayunpaman, nananatiling nakakatakot na gawain ang pagkamit ng pinagkasunduan sa mga bansang may magkakaibang interes at priyoridad.
