Si Steven Adler, na gumugol ng apat na taon sa Openai na nagtatrabaho sa pananaliksik na may kaugnayan sa kaligtasan, ay hayagang pinuna ang bilis kung saan ang mga organisasyon ay hinahabol ang Artipisyal na Pangkalahatang Intelligence (AGI). Nobyembre, kinuha ngayon ni Adler sa x upang maipahayag ang kanyang mga takot tungkol sa hinaharap ng sangkatauhan kung ang mga sistema ng AI ay patuloy na sumulong nang walang sapat na mga ligtas. _://winbuzzer.com/wp-content/uploads/2024/12/openai-profit-money.webp”> ,”Sumulat si Adler.”Kasunod ng pagmuni-muni na ito sa kanyang oras sa kumpanya, ipinadala niya ang pagkaunawa tungkol sa kung gaano kabilis umuusbong ang AI. Magtaas ba ng isang pamilya sa hinaharap, o kung magkano ang makatipid para sa pagretiro, hindi ko maiwasang magtaka: Gagawin ba ng sangkatauhan hanggang sa puntong iyon?”
nauugnay: berde Ginamit ni Beret ang chatgpt para sa pagsabog ng cybertruck, pinakawalan ng pulisya ang mga chat-log
Ang reserbasyon na sinimulan niyang ipahayag sa kanyang huling buwan doon.
kinilala niya na ang pag-unlad mismo ay hindi ang pangunahing isyu, ngunit sa halip ang kawalan ng napatunayan na mga pamamaraan upang matiyak na ang mga advanced na AI ay nakahanay sa mga layunin ng tao. Gov para sa mga ahensya ng pederal na may ligtas na paghawak ng data
ay ang lahi upang makamit ang AGI ay maaaring lumampas sa mga pagtatangka upang malutas ang pagkakahanay, na napansin sa isa sa kanyang mga post,”IMO, isang lahi ng AGI ay isang mapanganib na sugal, na may malaking pagbagsak Nag-karera kami, mas malamang na may nakakahanap ng isa sa oras.”
Pinuputol si Dev na nagtayo ng isang chatgpt-powered robotic sentry rifle
maagang signal ng mga panganib ng AI , kasama ang ilang mga empleyado na nagpapalaki ng mga alalahanin tungkol sa kung paano mabilis na sinaksak ng kumpanya ang mga modelo nito.
Ang pag-alis ni Adler ay nagdaragdag ng karagdagang timbang sa mga pag-uusap na ito. Mayroon siyang upuan sa harap ng hilera sa kung paano nasubok ang mga bagong tampok at kakayahan, at nakita niya mismo ang mga hamon upang matiyak na ang mga sistema ng AI ay hindi nakagawa ng nakakapinsalang nilalaman o hindi sinasadyang ibunyag ang mga pribadong impormasyon.
Tumawag para sa post-data na rebolusyon:”May isang Internet lamang”
Kung ang isang lab ay tunay na nais na bumuo ng AGI nang responsable, ang iba ay maaari pa ring i-cut ang mga sulok upang makahabol, marahil ay mapahamak.
H3> mapagkumpitensyang mga panggigipit at tawag para sa regulasyon
Ang mga hangarin na organisasyon ay panganib na maabutan kung magpapatuloy sila nang maingat.
nauugnay: AI Safety Index 2024 Upang ipakita na ang mga pangunahing developer, kabilang ang OpenAi at Google DeepMind, ay walang malinaw na mga frameworks para sa pamamahala ng mga umiiral na banta na nakuha ng mga may kakayahang modelo. Wala pang iisang hanay ng mga patakaran na tinanggap pa. Ang ilang mga eksperto ay nagmumula sa kasalukuyang sitwasyon hanggang sa mga unang araw ng biotechnology, kapag ang mga gobyerno ay pumasok sa mga alituntunin sa eksperimento at paglabas ng merkado.
sa halip na mag-sprint patungo sa isang pambihirang tagumpay pagkatapos ng isa pa nang walang ganap na accounting para sa mga etikal na pitfalls. kasama ang pananaliksik sa sinasadyang pagkakahanay, isang diskarte na idinisenyo upang mai-embed ang pangangatuwiran na pangangatuwiran sa mismong tela ng mga sistema ng AI. na may tahasang etikal at ligal na mga alituntunin. Inaasahan ng mga proponents ng pamamaraan na mababawasan nito ang mga hindi kanais-nais na pag-uugali, tulad ng henerasyon ng nakakapinsalang nilalaman o mga tagubilin para sa mga ipinagbabawal na aktibidad, sa pamamagitan ng pagkakaroon ng aktibong sanggunian ng AI na mga pamantayan na gawa ng tao sa real time.
Si Adler mismo ay nananatiling maingat na interesado sa mga naturang proyekto, ngunit iginiit niya na maraming linya ng pagtatanggol ang kinakailangan.
Pinakamahalaga at napabayaang mga ideya sa kaligtasan/patakaran ng AI? Natutuwa ako sa mga pamamaraan ng control, scheming detection, at mga kaso ng kaligtasan; Huwag mag-atubiling DM kung overlay ang iyong mga interes.”
hindi tiyak na landas sa unahan Pinakamahusay na paraan upang istraktura ang mga inisyatibo sa kaligtasan
Samantala, ang mga pahayag ng whistleblower tungkol sa mga paghihigpit na mga patakaran sa panloob, na sinamahan ng karagdagang pag-alis ng high-profile, magdagdag ng pag-igting sa tanong kung ang OpenAi at ang mga kontemporaryo nito ay maaaring balansehin ang kanilang mga ambisyon laban sa maalalahanin na pamamahala.
Sa isang mas malawak na kahulugan , Ang komentaryo ni Adler ay naglalarawan kung paano ang mga mananaliksik sa unahan ng AI development grapple na may mga dilemmas na straddle teknolohikal na pangako at umiiral na pag-aalala.
