Investigadores del Centro para la Seguridad de AI (CAIS), el Laboratorio de Medios del MIT, la Universidad Brasileña de UFABC y la organización sin fines de lucro de Pandemic Prevention SecureBio han encontrado que los principales modelos de inteligencia artificial pueden superar a los virólogos a nivel de doctorado, a nivel de doctorado en los procedimientos de laboratorio complejos. href=”https://www.virologytest.ai/”target=”_ en blanco”> prueba de capacidades de virología (VCT) , demuestre el dominio de la IA en tareas científicas especializadas, pero también resalta las preocupaciones serias de doble uso, lo que sugiere que estas herramientas podrían reducir la barrera para crear agentes biológicos peligrosos. Documento de investigación , se diseñó específicamente para medir la capacidad de una IA para ayudar con los intrincados protocolos de virología del”laboratorio húmedo”, evaluando la comprensión fundamental, visual y tácita, el tipo de conocimiento práctico a menudo ganado a través de la experiencia de laboratorio con la mano. src=”https://winbuzzer.com/wp-content/uploads/2024/07/ai-research-ai-Generated.jpg”>
Los resultados mostraron el modelo O3 de Openi lograron 43.8% de precisión, superando sustancialmente el 22.1% promedio anotado por los virológicos humanos especializados que respondieron las preguntas dentro de sus fields. El Gemini 2.5 Pro de Google también funcionó con fuerza, obteniendo un 37,6%. Según el análisis de VCT, el rendimiento de O3 superó el 94% de los expertos humanos en subconjuntos de preguntas personalizados.
Los chatbots del virólogo ai plantean dilema de doble uso
Esta capacidad de IA emergente, proporcionando orientación a nivel experto de expertos para el trabajo sensible de trabajo sensible, presenta un claro de doble uso útil. mal usado. Seth Donoughe, una científica de investigación y coautora de estudio de SecureBio, transmitió su aprehensión a tiempo , que lo calificó”poco nervioso”. Historia, hay un buen número de casos en los que alguien intentó hacer una biela, y una de las principales razones por las que no tuvieron éxito es porque no tenían acceso al nivel correcto de experiencia… por lo que parece valioso ser cauteloso acerca de cómo estas capacidades se están distribuyendo. Tecnologías.
Los hallazgos de VCT estimularon las llamadas inmediatas para la acción de los defensores de la seguridad. Dan Hendrycks, director del Centro de Seguridad de AI, enfatizó la necesidad de una acción inmediata, instando a las compañías de IA a implementar salvaguardas sólidas dentro de los seis meses, llamando a la inacción”imprudente”.
abogó por los controles de acceso escalonados o cerrados como una estrategia de mitigación potencial.”Queremos dar a las personas que tienen un uso legítimo para preguntar cómo manipular virus mortales, como un investigador en el departamento de biología del MIT, la capacidad de hacerlo”, explicó Hendrycks hasta el tiempo.”Pero las personas aleatorias que hicieron una cuenta hace un segundo no obtienen esas capacidades”.
respuestas de la industria y exige supervisión
que se han informado sobre los resultados de VCT hace meses, los desarrolladores de IA han reaccionado de manera diferente. XAI, la compañía de Elon Musk, en febrero, publicado un marco de gestión de riesgos Reconocer el documento y mencionar posibles seguros de virología para su modelo de Grok, como la capacitación para la capacitación para decidir.”Mitigaciones de nivel de sistema nuevo implementado para los riesgos biológicos”para sus modelos O3 y O4-Mini recientemente lanzados, incluidas medidas específicas como”Bloqueo de salidas dañinas”.
Esta medida, según los informes, se produjo de una”campaña de reducción de mil horas en la que el 98.7% de las conversaciones biogreladas inseguras fueron marcadas con éxito y bloqueadas”.”. El equipo rojo es una práctica de seguridad común que involucra ataques simulados para encontrar vulnerabilidades. Anthrope, otro laboratorio de IA líder, reconoció los resultados de VCT en la documentación de su sistema, pero no ofreció planes de mitigación específicos, mientras que Google declinó hacer comentarios sobre el asunto con el tiempo.
Sin embargo, algunos expertos creen que la autopolitación de la industria no es suficiente. Tom Inglesby del Centro Johns Hopkins para la Seguridad de la Salud abogó por la política y la regulación gubernamental.”La situación actual es que las compañías más virtuosas están tomando tiempo y dinero para hacer este trabajo, lo cual es bueno para todos nosotros, pero otras compañías no tienen que hacerlo”, dijo a Time, y agregó:”Eso no tiene sentido”. Inglesby propuso evaluaciones obligatorias para nuevos modelos de lenguaje grande antes de su lanzamiento”para asegurarse de que no producirá resultados de nivel pandemico”.
expansión de la huella de datos en la investigación científica
Los resultados del VCT no son un incidente aislado, sino un punto de datos más amplio dentro de un paisaje más amplio donde AI se integran en rápida AI en la integración de AI en rápido fulds. OpenAI, creador del modelo O3 de alto rendimiento, ya era conocido por explorar aplicaciones biológicas; WinBuzzer informó en enero sobre su colaboración con Biosciencias retro utilizando un modelo llamado GPT-4B Micro para optimizar las proteínas involucradas en la creación de células madre.
De manera similar, Google Deepmind ha sido muy activo. Además de la familia Gemini Model, su programa Alfafold ampliamente utilizado predice estructuras de proteínas, mientras que un proyecto de”co-científico de IA”, detallado en febrero, tiene como objetivo generar hipótesis científicas nuevas, a veces reflejando la investigación humana no publicada.
Microsoft ingresó la fray Las predicciones estáticas de Alfafold. Estas herramientas, centradas en la ingeniería de proteínas, la generación de hipótesis y la simulación molecular, ilustran el papel en expansión de la IA, que van más allá del análisis de datos hacia un razonamiento científico complejo y asistencia procesal, amplificando tanto las ganancias científicas potenciales como los desafíos de seguridad destacados por el VCT.
