El jefe de la compañía de inteligencia artificial que fabrica ChatGPT dijo al Congreso el martes que la intervención del gobierno “será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos”.

“A medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también”, testificó el martes el CEO de OpenAI, Sam Altman, en una audiencia en el Senado.

Altman propuso la formación de una agencia estadounidense o global que otorgaría licencias a los sistemas de inteligencia artificial más poderosos y tendría la autoridad para “retirar esa licencia y garantizar el cumplimiento de los estándares de seguridad”.

Su puesta en marcha con sede en San Francisco se disparó a la atención del público después de que lanzó ChatGPT a fines del año pasado. ChatGPT es una herramienta de chatbot gratuita que responde preguntas con respuestas convincentemente similares a las de los humanos.

Lo que comenzó como un pánico entre los educadores sobre el uso de ChatGPT para hacer trampa en las tareas asignadas se ha expandido a preocupaciones más amplias sobre la capacidad de la última generación de herramientas de "IA generativa" para engañar a las personas, difundir falsedades, violar las protecciones de derechos de autor y cambiar algunos trabajos.

Y aunque no hay señales inmediatas de que el Congreso elabore nuevas reglas generales de IA, como lo están haciendo los legisladores europeos, las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra la IA dañina. productos que violan los derechos civiles existentes y las leyes de protección al consumidor.

El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador, pero en realidad era un clon de voz entrenado en los discursos de Blumenthal y recitaba una discurso escrito por ChatGPT después de que le pidió al chatbot que redactara sus comentarios de apertura.

El resultado fue impresionante, dijo Blumenthal, pero agregó: "¿Qué pasaría si le hubiera pedido, y si hubiera proporcionado, un respaldo a la rendición de Ucrania o al liderazgo (del presidente ruso) Vladimir Putin?"

Blumenthal dijo que se debería exigir a las empresas de IA que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral.