15 minutos. Una de las organizaciones que suscribió el miércoles un manifiesto para pedir la suspensión por 6 meses de los experimentos con inteligencia artificial (IA) muy avanzada presentó este jueves una demanda en Estados Unidos (EEUU) contra la tecnológica OpenAI, desarrolladora del ChatGPT. A su juicio, la tecnología que utiliza, denominada GPT-4, viola la ley de protección de los consumidores.
El Center for AI and Digital Policy (CAIDP) presentó la demanda contra OpenAI ante la Comisión de Comercio Federal (FTC) de EEUU. En ella, alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública“.
“La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GPT-4“. Así lo dijo el presidente de CAIDP Marc Rotenberg.
Según Rotenberg, OpenAI no está cumpliendo con las prácticas propuestas por la FTC, como la relativa a la garantía por parte de las compañías de IA de “la solidez empírica de los datos y de los modelos”, así como su transparencia.
La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.
Rotengberg fue uno de los empresarios que firmaron una carta abierta solicitando que se suspendan durante 6 meses los experimentos con IA muy potente (superior a GPT-4). Consideran que “pueden plantear profundos riesgos para la sociedad y la humanidad”.
La apocalíptica carta
“La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados“, decía la carta publicada por el organismo sin ánimo de lucro Future of Life Institute.
Entre los firmantes también estaban el director ejecutivo de Tesla Elon Musk y el cofundador de Apple Steve Wozniak, entre otros que también piden la intervención de los Gobiernos, en caso de que estas empresas no respondan a la solicitud.
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra. Debería planificarse y gestionarse con el cuidado y los recursos correspondientes“, aseguraba esa misiva. Criticaba, además, “que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas”.
GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.
El laboratorio OpenAI define el GPT-4 como su “último hito en el esfuerzo para ampliar el aprendizaje profundo”. Este nuevo sistema acepta la recepción de textos e imágenes y genera texto.
Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales. No obstante, “muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales”.
