La Comisión Federal de Comercio estadounidense investiga a la compañía OpenAI para determinar si su popular aplicación ChatGPT perjudica a los consumidores al generar información falsa y si su tecnología hace un uso inadecuado de los datos de los usuarios.
A OpenAI, respaldada por Microsoft, la notificaron de la pesquisa en un cuestionario de 20 páginas. En la evaluación se le pide que describa incidentes en los que usuarios fueron falsamente difamados. También pidieron que comparta los esfuerzos de la compañía para garantizar que no vuelvan a suceder.
La investigación del regulador estadounidense la reportaron en primer lugar por el diario The Washington Post.
El lanzamiento de ChatGPT por parte de OpenAI en noviembre pasado sorprendió al mundo al mostrar el poder de los grandes modelos de lenguaje (o LLM, por sus siglas en inglés), una forma de inteligencia artificial (IA) conocida como «IA generativa». La aplicación puede producir en segundos contenido similar al creado por el ser humano.
En medio del revuelo por las capacidades de la tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño. Al contenido lo llaman comúnmente «alucinaciones».
Difamaciones sobre ChatGPT
La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso el 12 de julio, y aunque no mencionó la investigación dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.
«Hemos escuchado sobre reportes en los que la información sensible de la gente aparece en respuesta a una pregunta de otra persona», señaló Khan.
«Hemos oído hablar de calumnias, declaraciones difamatorias, cosas totalmente falsas que están surgiendo. Ese es el tipo de fraude y engaño que nos preocupa», añadió.
La investigación de la autoridad reguladora se centra en cómo este aspecto podría perjudicar a los usuarios, según el cuestionario. Sin embargo, también profundiza en el uso de datos privados por parte de OpenAI para construir su modelo, líder en el mundo.
El GPT-4 de la compañía es la tecnología base detrás de ChatGPT, así como decenas de otros programas de empresas que pagan una cuota a OpenAI para acceder a su modelo para sus propios usos.
Una investigación de la Comisión de Comercio no implica necesariamente otras acciones y esa entidad podrá cerrar el caso si está satisfecha con la respuesta de la empresa examinada.
Si el regulador percibe prácticas ilegales o inseguras, exigirá medidas correctivas y posiblemente iniciará una demanda.
OpenAI y la Comisión de Comercio no respondieron a una solicitud de comentarios.
El periodismo independiente necesita del apoyo de sus lectores para continuar y garantizar que las noticias incómodas que no quieren que leas, sigan estando a tu alcance. ¡Hoy, con tu apoyo, seguiremos trabajando arduamente por un periodismo libre de censuras!
Apoya a El Nacional