O escrutínio sobre o compromisso da OpenAI com seus princípios fundadores se intensificou no início deste mês após os relatórios de que a empresa de IA havia reduzido drasticamente os tempos de avaliação para seus modelos mais recentes, os processos de compactação que levaram meses em meros dias. href=”https://www.ft.com/content/8253b66e-ade7-4d1f-993b-2d0779c7e7d8″ target=”_blank”>detailed alarm among internal and external testers evaluating the company’s o3 reasoning model, with one calling the accelerated timeline “reckless”and a “recipe for disaster,”driven by Pressões competitivas intensas. Mova visto pelos críticos como codificando o potencial da dinâmica de raça comercial para influenciar os protocolos de segurança. Laureates e AI Pioneiros, Atualmente, petição formalmente Uma entidade com fins lucrativos. Motivos de sobreviver considerações de segurança à medida que a empresa persegue a Agi. A estrutura fundadora foi uma escolha deliberada para impedir que as pressões comerciais comprometam a segurança na busca da AGI. Esse dever impede que desistisse desse controle.”Outro ex-funcionário, Anish Tondwalkar, alertou que as salvaguardas da Carta, como uma”cláusula de parada e assistência”, destinadas a garantir a cooperação se outra entidade quase que se destaca, que é uma vez que é uma vez que se preocupa com o que mencionado, eu sou um que mencionou o que mencionou o que mencionou o que mencionou o modelo de que é um modelo de que é um dos quais é o que se preocupa com o que se preocupa com o que se preocupa com o que se preocupa com o que se preocupa com o que se preocupa com o que é um dos que se preocupa com o que é um dos que se preocupa com o que é um dos que se preocupa com o que é um dos que se preocupa com o que se preocupou com o que é um dos que se preocupa com o que se preocupa com o que é o que se preocupa. a former OpenAI policy adviser and signatory, to The Associated Press.
Backers of the petition include Nobel-winning economists Oliver Hart and Joseph Stiglitz, alongside AI pioneers Geoffrey Hinton (who won the 2024 Nobel Prize in physics) and Stuart Russell.
Hinton explicitly distinguished this effort from Elon Musk’s parallel legal challenges, Remelhando:”Gosto da missão do Openai… e gostaria que eles executassem essa missão em vez de enriquecer seus investidores”. Target=”_ Blank”> 9 de abril Petição De organizações sem fins lucrativos da Califórnia e grupos de trabalho focados em garantir a avaliação e o manuseio adequados dos OpenAI cy-près whatss como charration allowable”A tensão sobre a direção do Openai, marcada pela partida de Elon Musk em 2018, a expulsão temporária do CEO Sam Altman no final de 2023 e a saída de líderes focados na segurança como Jan Like em maio de 2024, que afirmou então que”a cultura e os processos de segurança levaram um banco traseiro a produtos brilhantes”. Grupo de Advocacia também tem formato de ação. 28, 2024, argumentando que era essencial garantir financiamento e “se tornar uma empresa duradoura”. Respondendo à última petição, a Companhia reiterou que “quaisquer alterações em nossa estrutura existente estariam em serviço para garantir que o público mais amplo possa se beneficiar da IA” e “essa estrutura continuará a garantir que, à medida que a fins lucrativos tenha sucesso e cresça, o mesmo acontece com a organização sem fins lucrativos, nos permitindo alcançar a missão”. A empresa também observou anteriormente que, na escala de capital necessária, “os investidores querem nos apoiar, mas… precisam de equidade convencional e menos complexidade estrutural.”
altos riscos e emaranhados financeiros
A pressão para a reestruturação é imensa, impulsionada por custos que os custos e as expectativas de investidor. O Openai supostamente fez uma perda de US $ 5 bilhões para 2024 e os rostos que aumentam as despesas de computação, potencialmente atingindo US $ 9,5 bilhões anualmente até 2026. Fundos, aumentou significativamente a influência dos investidores, com o SoftBank se tornando o maior investidor. Criticamente, o acesso à infusão de US $ 40 bilhões de US $ 40 depende da finalização da conversão do PBC até o final do ano, aumentando consideravelmente as apostas. parceria no desenvolvimento de chips personalizados e alinhando com a vasta iniciativa de infraestrutura do projeto Stargate, que por si só está explorando a expansão para a Europa. A empresa também vinculou alcançar a AGI a uma meta de lucro cumulativo de US $ 100 bilhões, uma métrica aparentemente projetada para tranquilizar o parceiro principal Microsoft. Um testador envolvido com a avaliação anterior e mais longa do GPT-4 disse que falhas perigosas surgiram apenas no final desse processo, acrescentando peso aos medos sobre a programação compactada.
Atualização subsequente de estrutura de segurança da OpenAI, permitindo que os padrões potencialmente se dobrem com base em ações dos concorrentes, pouco fizeram para amenizar essas preocupações, apesar do chefe de sistemas de segurança da empresa, Johannes Heidecke, afirmando:”Temos um bom equilíbrio de quão rápido nos movemos e nos completos.”O processo de Elon Musk, alegando que o Openai traiu sua missão fundadora, continua em uma linha do tempo acelerada, embora sua tentativa de obter uma liminar bloqueando a mudança do PBC falhou em março. Desde então, o Openai assumiu Musk, acusando-o de táticas perturbadoras. Além disso, um grupo de ex-funcionários do Openai apresentou um resumo do tribunal apoiando as reivindicações de Musk em 11 de abril, argumentando que o foco do lucro compromete a segurança.