La iniciativa presentada por Anthropic a legisladores estadounidenses busca cubrir un vacío que persiste en Washington: no existe una ley federal integral que regule los sistemas de inteligencia artificial más potentes. La empresa propone que el Gobierno pueda frenar un modelo ante un riesgo inminente de causar más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares, pero únicamente con autorización judicial. El umbral convierte una discusión abstracta sobre seguridad en una pregunta institucional concreta: quién decide cuándo un sistema representa un peligro excepcional y con qué pruebas.
El planteamiento llega en un contexto de respuestas fragmentadas. Bajo el Gobierno de Donald Trump, las obligaciones para el sector descansan principalmente en decretos y compromisos voluntarios, mientras el Congreso sigue dividido y no ha aprobado una norma federal específica. Esa combinación deja a las empresas con amplio margen para fijar sus propios controles y al Ejecutivo con instrumentos administrativos cuya continuidad puede variar con cada gobierno. La propuesta de Anthropic intenta introducir una vía legal más estable, aunque todavía no equivale a una ley ni define por sí sola cómo se aplicaría.
De los compromisos voluntarios a una intervención excepcional
La propuesta combina obligaciones preventivas para los desarrolladores con una facultad extraordinaria de suspensión. Las compañías tendrían que probar sus modelos más potentes, hacer públicos los resultados, someterlos a evaluaciones independientes y mantener programas sólidos de seguridad. En caso de amenaza inminente, el Gobierno podría solicitar a un juez que bloquee el despliegue. La intervención judicial busca limitar decisiones unilaterales y exigir que la autoridad justifique la urgencia y la magnitud del daño previsto.
El diseño responde a una tensión difícil de resolver. Un sistema avanzado puede difundirse con rapidez y causar daños antes de que una investigación concluya; pero una orden gubernamental precipitada también podría detener una tecnología legítima, perjudicar a una empresa o concentrar demasiado poder en el Ejecutivo. La revisión judicial ofrece garantías de debido proceso, aunque su eficacia dependerá de la rapidez con que los tribunales puedan actuar y de la calidad de la información técnica que reciban. En una emergencia, semanas de deliberación podrían ser demasiado tiempo; una decisión basada en evidencia incompleta podría, a su vez, convertirse en una restricción excesiva.
El antecedente inmediato es la suspensión de los modelos más avanzados de Anthropic durante casi tres semanas, después de que Washington vetara a la empresa en el contexto de sus tensiones con el Pentágono. El episodio mostró que el Gobierno ya puede ejercer presión sobre un proveedor mediante decisiones administrativas y de seguridad nacional. La mejora reciente de las relaciones entre la compañía y la administración Trump hace especialmente relevante la propuesta: institucionalizar el control podría reducir la dependencia de disputas políticas puntuales, pero no elimina el riesgo de que las reglas se utilicen para favorecer o castigar a determinados actores.
El umbral del daño y el problema de anticiparlo
Fijar cifras —50 víctimas graves o 1.000 millones de dólares en pérdidas— aporta una referencia comprensible, pero no resuelve cómo predecir daños antes de que ocurran. La ley tendría que aclarar qué significa “inminente”, qué escenarios se consideran atribuibles al modelo y qué nivel de probabilidad basta para intervenir. Un sistema puede facilitar una acción peligrosa sin ejecutarla directamente, o generar daños acumulativos difíciles de asignar a una sola herramienta. También sería necesario distinguir entre capacidades técnicas, usos previsibles y conductas de terceros.
La evaluación independiente y la divulgación pública pueden aportar controles útiles, siempre que no se conviertan en una formalidad. Una prueba realizada antes del lanzamiento no garantiza que el modelo se comporte igual tras actualizaciones, cambios de acceso o integración en otros servicios. Además, publicar resultados sin criterios comunes podría producir informes incomparables: una empresa podría medir riesgos de forma limitada y otra aplicar pruebas más exigentes. Para que la transparencia permita escrutinio real, harían falta metodologías auditables, protección de información sensible y reglas que obliguen a informar también sobre fallos y cambios relevantes.
Competencia, responsabilidad y confianza pública
Para las empresas, un régimen obligatorio elevaría costes de prueba, documentación y supervisión. Los grandes laboratorios quizá puedan absorberlos; las compañías pequeñas podrían quedar en desventaja o depender de evaluadores externos más caros. Si la regulación se diseña con criterios claros y proporcionales al riesgo, puede reducir daños y dar mayor confianza a clientes y socios. Si exige procesos indeterminados o cambia según la interpretación de cada autoridad, puede consolidar a los actores con más recursos y desplazar la innovación hacia jurisdicciones menos exigentes.
La dimensión social también excede el momento de una prohibición. Una revisión previa puede ayudar a prevenir daños extremos, pero el público necesita saber cómo se detectan incidentes, quién responde por ellos y qué mecanismos de reparación existen. La responsabilidad no puede recaer exclusivamente en el desarrollador si un modelo se incorpora a cadenas de decisión en salud, finanzas, infraestructura o seguridad. A la vez, imponer controles sin explicar sus límites puede generar una falsa sensación de protección: ningún procedimiento elimina todos los errores ni anticipa todos los usos maliciosos.
El valor político de la iniciativa dependerá, por tanto, menos de su anuncio que de las reglas que lleguen a redactarse. El Congreso tendría que decidir qué modelos quedan sujetos a evaluación, cómo se seleccionan los expertos independientes, qué evidencia habilita una orden judicial y cómo se revisa o levanta una suspensión. También deberá conciliar la supervisión civil con las competencias de seguridad nacional. La propuesta de Anthropic pone sobre la mesa una arquitectura de control que intenta equilibrar innovación y prevención; su prueba decisiva será si puede aplicarse con rapidez, criterios verificables y garantías iguales para todas las empresas.