Los investigadores de ciberseguridad no están contentos con las restricciones en Fable de Anthropic

Anthropic lanzó su último modelo Fable el martes, presentándolo como una versión pública y limitada de su poderoso y muy promocionado modelo de ciberseguridad Mythos.

Pero no todos están felices con las restricciones, y varios investigadores y profesionales de ciberseguridad han expresado sus quejas en línea.

"[Fable] rechaza cualquier solicitud que pueda estar relacionada tangencialmente con ciberseguridad. Incluso tareas inofensivas como leer un artículo de blog", dijo Valentina "Chompie" Palmiotti, una investigadora de seguridad reconocida que trabaja en IBM X-Force.

Cuando un aviso activa sus protecciones, Fable pausa el chat y dice que sus "medidas de seguridad marcaron este mensaje por temas de ciberseguridad o biología".

Las restricciones se implementaron para limitar el riesgo de que Fable se utilizara para desarrollar malware o comprometer software, una preocupación de larga data dentro de Anthropic. Las restricciones sobre biología provienen de una preocupación similar sobre el desarrollo de armas biológicas.

Cuando el gigante de la IA lanzó Mythos en abril, restringió el modelo a un número limitado de empresas y organizaciones en lo que llamó Proyecto Glasswing, un esfuerzo para desplegar el modelo para asegurar software e infraestructura crítica. La semana pasada, Anthropic expandió el acceso a Mythos a cientos de organizaciones en 15 países.

Pero a pesar de las buenas intenciones, muchos expertos en ciberseguridad siguen molestos por la naturaleza improvisada de las restricciones. Matt Suiche, un veterano de ciberseguridad, le dijo a TechCrunch que "si le pides que escriba código seguro, asume que es trabajo relacionado con ciberseguridad en lugar de mejores prácticas de ingeniería de software, y te degradan". Fable está programado para retroceder a Claude Opus 4.8 si activa una protección. "Parece estar basado en palabras clave, así que cualquier cosa en el campo léxico de 'ciberseguridad' activa las protecciones".

Contacta con nosotros ¿Tienes más información sobre cómo los hackers están usando IA? ¿O cómo las empresas de ciberseguridad están usando IA? Nos encantaría saber de ti. Desde un dispositivo y red no laboral, puedes contactar a Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o por Telegram y Keybase @lorenzofb, o ¿Tienes más información sobre cómo los hackers están usando IA? ¿O cómo las empresas de ciberseguridad están usando IA? Nos encantaría saber de ti. Desde un dispositivo y red no laboral, puedes contactar a Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o por Telegram y Keybase @lorenzofb, o envía un correo.

"Pero es comprensible ya que aún estamos en las primeras etapas y todavía están adaptando sus protecciones. Estoy seguro de que evolucionarán con el tiempo a medida que Anthropic y otras empresas de modelos de frontera colaboren más con la nueva generación actual de empresas de ciberseguridad", dijo Suiche, quien es miembro del personal técnico de Tolmo, una startup de ciberseguridad de IA. "Es mejor capturar a más personas que a pocas cuando haces tal lanzamiento y relajar las protecciones con el tiempo".

Otro investigador se quejó en X de que "incluso pedir una revisión de código" activa las protecciones de Fable.

Anthropicno respondió de inmediato