¿Hay que regular ChatGPT y herramientas similares?

ChatGPT, el nuevo caramelo adictivo que está causando furor en numerosos usuarios, ya comienza a preocupar a reguladores y ONG pro-defensa de la privacidad y no es para menos. Ante la gran sucumbida de muchos usuarios, la popular herramienta basada en IA ha comenzado a exponer información delicada sobre personas. ¿Hasta dónde ha violado la privacidad OpenAI con los datos que recopila de los usuarios adictos para alimentar a su creación adictiva? Lo preocupante es que no se sabe nada más allá de lo que diga la compañía, pues no hay una regulación en cuanto a los sistemas IA. ¿Se debe regular ChatGPT y herramientas similares?

Tras la reciente prohibición de ChatGPT en Italia por orden del Garante para la Protección de Datos Personales (conocido por sus siglas en italiano, GPDP), varias ONG pro defensa de la privacidad e inclusive, la UNESCO han encendido las alarmas. La preocupación se generó a raíz de que la popular herramienta expuso el pasado 20 de marzo, datos de personas e información relacionada con el pago de algunos suscriptores.

Si bien OpenAI reconoció esa exposición de datos delicados achacándolo a «un bug», no logró calmar la inquietud, pues además de que ChatGPT fue prohibido en Italia, el organismo les dio 20 días para responder con medidas o comenzarán a enfrentar multas. Entre las medidas que les propuso la GPDP está el de notificar a los usuarios sobre como ChatGPT recopila la información suministrada e implementar mecanismos para verificar la edad de los usuarios que utilicen esta herramienta.

¿Cuáles son las preocupaciones que se ciernen sobre ChatGPT y por las cuales se pide regular este tipo de herramientas?

Puede ser verdad la explicación que dio OpenAI sobre este «chispoteo» de información delicada por parte de ChatGPT y de que, efectivamente, se trató de un bug. Pero la cuestión va más allá de este incidente, pues no se tiene certeza hasta dónde llega la recopilación de datos de estas herramientas y como son usados estos datos para alimentarlas y entrenarlas.

Una de las grandes preocupaciones que se tiene, no solo con ChatGPT, sino con otras herramientas similares, es que pueden simular conversaciones convincentes y por ende, manipular a usuarios inexpertos o menores de edad. En el caso de los menores de edad, estas herramientas pueden exponerlos a conversaciones inadecuadas. En los usuarios inexpertos, pueden llegar a convencerlos con informaciones falsas y así, generar falsas matrices de opiniones.

Otra de las grandes inquietudes es la implementación de GPT-4 en programas de uso masivo como Bing y Windows. Esto y de acuerdo con el grupo de investigación CAIDP (Centro de Inteligencia Artificial y Política Digital) representa un gran riesgo para la privacidad de los usuarios y la misma seguridad pública. De hecho, este grupo sin fines de lucro ha pedido a la Comisión Federal de Comercio de los EE. UU. que ordene detener los lanzamientos de GPT-4 hasta tanto no se compruebe la transparencia del mismo.

La UNESCO por su parte, ha expresado su preocupación, ya que estas herramientas tienen el potencial de generar desinformación. Por ello, el organismo internacional insta a todos los gobiernos del mundo a regular no solo ChatGPT, sino todas las herramientas basadas en IA.

¿Qué proponen los que están a favor de regular las herramientas basadas en IA?

Las ONG pro-defensa de la privacidad, varias instituciones públicas y algunos privados de la industria tecnológica, piden principalmente transparencia en la IA. Regulaciones que permitan auditar estas herramientas y que sus desarrolladores sean lo más claro posible con sus usuarios en relación con la recopilación de datos y como estos son usados.

Antes de que salten los adictos sin control a estas herramientas, es importante reseñar que no se pide la prohibición de la IA. Simplemente, se exige establecer medidas de control a fin de que herramientas como ChatGPT contribuyan al desarrollo y no sean utilizadas para fomentar la discriminación, desinformación, invasión a la privacidad y destrucción del medio ambiente.

¿Crees que es buena idea regular estas herramientas basadas en IA o consideras de que estas preocupaciones son simples exageraciones?