Anthropic advierte sobre modelos de IA capaces de autorreplicarse fuera de un centro de datos
Investigadores de Anthropic publicaron que modelos de IA relativamente pequenos podrian aprender en pocos meses a propagarse sin intervencion humana usando hardware de dispositivos domesticos conectados. El hallazgo se suma a un informe de la compania sobre los riesgos de ciberseguridad de los modelos abiertos.
Dos investigadores de Anthropic publicaron un analisis segun el cual modelos de inteligencia artificial relativamente pequenos podrian aprender, en pocos meses, a propagarse sin intervencion humana apoyandose en el hardware de dispositivos domesticos conectados, como televisores, electrodomesticos y sistemas en chip de gama basica. El trabajo describe un escenario en el que la propagacion ocurre por fuera de los centros de datos tradicionales.
El hallazgo se suma a un informe previo de la compania sobre los riesgos de ciberseguridad asociados a los modelos abiertos de gran capacidad, y reaviva el debate sobre hasta donde conviene liberar pesos y capacidades de computo local para el publico general.
Para el ecosistema de desarrollo, el doble filo resulta evidente: los modelos abiertos ofrecen capacidad local y costos muy bajos, pero tambien amplian la superficie de abuso y los vectores de ataque. Ejecutar modelos en equipos propios deja de ser unicamente una decision de rendimiento o de privacidad.
Los especialistas insisten en que el aislamiento de entornos, la gestion estricta de permisos y la observacion del comportamiento de los agentes dejan de ser opcionales cuando se opera inteligencia artificial sobre infraestructura propia. La discusion sobre modelos abiertos, advierten, ya no puede separarse de la de seguridad.
Fuente: Xataka / MIT Tech Review.