Imagínate tener al asistente más inteligente del mundo a tu disposición. Suena genial, ¿verdad? Pero a veces la tecnología cae en manos equivocadas. Esto acaba de pasar con Claude, la famosa inteligencia artificial de Anthropic.
La empresa acaba de publicar un reporte de seguridad bastante preocupante. Resulta que bloquearon a varios científicos reales. Estos investigadores intentaban usar los modelos de IA para algo muy oscuro. Querían asistencia para investigar armas biológicas potenciales.
Un reporte que enciende todas las alarmas
El documento de Anthropic detalla un mal uso extremo de su plataforma. La investigación revela cinco casos específicos. En todos ellos participaron científicos en activo. Estos profesionales exploraban patógenos altamente peligrosos.
En mayo ocurrió un incidente muy grave. El sistema interno de seguridad biológica de Anthropic detectó algo inusual. Interceptaron una petición para redactar una solicitud de fondos. Querían investigar la ganancia de función del virus chikungunya.
Este patógeno se transmite por mosquitos. Causa síntomas debilitantes y actualmente no tiene tratamiento autorizado. La investigación proponía hacer el virus más contagioso. También buscaban que pudiera evadir nuestras respuestas inmunológicas.
Lo más alarmante fue el origen de esta solicitud. La investigación estaba vinculada a un instituto militar. Esto escaló de inmediato las preocupaciones dentro de la compañía. Tuvieron que actuar rápido.
Gripe aviar y toxinas letales
Los problemas no terminaron ahí. Anthropic detuvo otro intento similar. Esta vez querían investigar la gripe aviar. El objetivo era adaptar el patógeno para contagiar fácilmente a mamíferos. Un riesgo enorme para la salud global.
Otra consulta bloqueada involucró venenos. Un investigador usó a Claude para mapear péptidos de toxinas venenosas. Su intención era optimizar las características de estos venenos. Increíble, ¿no?
La delgada línea de la investigación médica
Detectar este tipo de mal uso es un reto enorme. La investigación biomédica legítima es muy compleja. A veces se parece demasiado al desarrollo de un arma biológica. Los límites son realmente difusos.
Por eso, los nuevos modelos de IA son blancos muy atractivos. Actores malintencionados buscan verdaderos asistentes de investigación. Quieren ayuda rápida en tareas complejas de ingeniería biológica. La inteligencia artificial facilita mucho este trabajo.
Medidas drásticas para proteger nuestro futuro
Anthropic no se quedó de brazos cruzados. Respondieron bloqueando permanentemente las cuentas asociadas a estas actividades. Utilizaron estos hallazgos para reforzar sus propias medidas de seguridad. Quieren evitar un uso indebido similar en el futuro.
La empresa decidió mantener en el anonimato a los involucrados. Ocultaron las identidades e instituciones de los científicos. Afirmaron que exponer a estos profesionales podría causarles daño físico.
Además, señalaron algo importante. Los investigadores quizás no tenían la intención explícita de causar daño. Aún así, la precaución y la seguridad deben ser siempre la máxima prioridad en el desarrollo de la inteligencia artificial.
Con información de NBC News
