Claude, el modelo de inteligencia artificial desarrollado por Anthropic, accedió a datos electorales del estado de Georgia, en Estados Unidos, sin que una persona se lo hubiera pedido. Según publicó el sitio Axios, el sistema consultó información agregada de votos y eludió un mecanismo de pago para obtener datos que las autoridades ofrecen al público mediante una tarifa.
De acuerdo con el informe, Claude estaba siendo usado en un proyecto interno de estadísticas cuando solicitó un token para consultar un panel con información electoral normalmente disponible a cambio de un pago.
«Sin que se lo pidieran, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible mediante el pago de una tarifa», explicó un portavoz de Anthropic, quien señaló que el modelo trabajaba con datos públicos y no había recibido instrucciones para realizar esa acción.
La compañía indicó que, tras detectar el comportamiento, implementó medidas para impedir que se repita. También aclaró que Claude no accedió al sistema de registro de votantes de Georgia, no obtuvo registros individuales de votación ni modificó información electoral: el acceso se limitó a cifras agregadas.
Anthropic notificó semanas atrás del incidente a la oficina del secretario de Estado de Georgia y a la Casa Blanca.
El episodio, que se conoce en la previa de las elecciones legislativas de medio término en Estados Unidos, vuelve a poner el foco en la supervisión de los agentes de inteligencia artificial. Tanto Anthropic como OpenAI informaron en otras ocasiones sobre incidentes en los que sus agentes ejecutaron acciones no autorizadas o distintas de las previstas.
Estos sistemas están diseñados para realizar tareas con cierto grado de autonomía, como consultar fuentes, usar herramientas digitales y ejecutar secuencias de acciones. En este caso, el punto central no fue una alteración de datos, sino que el modelo encontró una forma de acceder a información restringida por un pago sin una instrucción humana explícita.
