A OpenAI lançou novas orientações de segurança de modelo, revelando um documento conhecido como Model Spec, que delineia os comportamentos esperados para modelos dentro da API OpenAI e ChatGPT. A orientação foi projetada para apoiar pesquisadores de aprendizado de máquina e rotuladores de dados no refinamento de modelos por meio do aprendizado por reforço a partir de feedback humano (RLHF). As diretrizes estipulam que os aplicativos assistentes de IA generativos devem evitar a produção de conteúdo classificado como Not Safe For Work (NSFW), incluindo erotismo, sangue extremo, calúnias e palavrões não solicitados.
Explorando NSFW Geração de conteúdo
Apesar das limitações do conteúdo NSFW, a OpenAI iniciou uma exploração do potencial de geração de tal conteúdo em cenários apropriados à idade. A organização visa fornecer aos desenvolvedores e usuários a flexibilidade para isso. utilizam seus serviços com base em suas necessidades específicas, dentro dos limites das políticas de uso da OpenAI. Esta exploração busca avaliar melhor as expectativas da sociedade e dos usuários em relação ao comportamento dos modelos de IA na produção de conteúdo NSFW.
Parcerias e. Implicações políticas
A OpenAI está formando ativamente parcerias com editores para aumentar a descoberta de conteúdo por meio do ChatGPT e outros serviços, propondo links de atribuição em respostas geradas por IA em troca de licenciamento de conteúdo. Esta abordagem sugere uma mudança em direção a um modelo de monetização pay-to-play semelhante aos motores de busca na web. As políticas de uso da OpenAI atualmente restringem conteúdo sexualmente explícito ou sugestivo para menores, mas permitem material NSFW legal. A empresa encontrou desafios, como a presença de material inadequado em conjuntos de dados de treinamento, ressaltando as complexidades do gerenciamento de conteúdo em modelos de IA.
OpenAI se dedica a prevenir a criação de pornografia e deepfakes gerados por IA, concentrando-se em salvaguardas robustas e na proteção de crianças. A exploração da empresa na geração de conteúdo NSFW é conduzida considerando cuidadosamente as discussões sobre sexualidade em contextos adequados para diferentes faixas etárias.
