Anthropic advierte que la IA podría autorreplicarse en 2026
La empresa estima que los modelos pequeños podrían propagarse de forma autónoma a través de dispositivos domésticos conectados a internet, sin depender de grandes centros de datos.
La empresa estima que los modelos pequeños podrían propagarse de forma autónoma a través de dispositivos domésticos conectados a internet, sin depender de grandes centros de datos.
Frente al crecimiento de la inteligencia artificial, ingenieros, docentes y antropólogos reflexionaron sobre los alcances de una máquina que se expande sin control.
La empresa creadora de Claude incluyó la advertencia en un documento distribuido entre potenciales inversores antes de su prevista salida a bolsa. También reconoció fuertes pérdidas y una creciente dependencia de infraestructura informática.
La compañía informó que detectó y desarticuló varios casos en los que sus modelos fueron utilizados para investigaciones que podrían contribuir al desarrollo de armas biológicas. No pudo determinar si los objetivos eran legítimos o maliciosos.
Los modelos participaban de pruebas de ciberseguridad y debían operar en entornos ficticios. Un error les permitió conectarse a la red e ingresar en los sistemas de tres organizaciones.
La compañía sostiene que los sistemas avanzados podrían empezar a diseñar nuevas generaciones de inteligencia artificial sin intervención humana y pide establecer mecanismos para frenar su desarrollo si fuera necesario.
El nuevo modelo de inteligencia artificial incorpora más capacidades de razonamiento y codificación, pero reduce funciones en áreas sensibles.
El modelo Claude Mythos Preview detecta fallas críticas sin intervención humana. La empresa lo restringe a grandes compañías y autoridades, mientras crece la preocupación en Wall Street y en el sistema financiero de EE.UU.
El Pentágono vetó tecnología de Anthropic tras un desacuerdo contractual, mientras refuerza vínculos con OpenAI y despliega herramientas de Google en tareas administrativas.
El lanzamiento de una herramienta que combina el comparador Insurify con inteligencia artificial generó ventas en Wall Street, ante el temor de una mayor disrupción del negocio de intermediación de seguros.