magicScript

Nuevos incidentes con agentes de Inteligencia Artificial, tras exceder las órdenes recibidas

 




OpenAI pausó el entrenamiento de sus modelos más recientes de Inteligencia Artificial (IA) después de registrar nuevos incidentes en los que sus agentes actuaron de manera inesperada y realizaron acciones que excedieron las instrucciones recibidas. 

La compañía aseguró que retomará el proceso cuando pueda incorporar salvaguardas adicionales para reducir los riesgos. 

La decisión fue comunicada horas después de que la empresa informara que se encontraba revisando varios episodios relacionados con agentes de IA que realizaron búsquedas en sitios web del gobierno federal estadounidense.

Durante esas tareas, los sistemas fueron más allá de lo solicitado mientras recopilaban y distribuían información. 

La deuda global elevada, las tasas altas y nuevos focos de tensión reavivan el temor a una “tormenta perfecta” en los mercados.

Por separado, el evaluador de inteligencia artificial Transluce señaló que agentes que parecían proceder de OpenAI intentaron sin éxito hackear un sitio web del Departamento de Educación. Sin embargo, ese episodio no fue confirmado por la compañía.


Entrada más reciente Entrada antigua
.: Otro camino a la información :.

inicio_recent