Ante el número creciente de usuarios que recurren a la IA y confían ciegamente en sus resultados, hasta el punto de considerarla como «una amiga confidente», Microsoft ha saltado a la palestra para advertir que esta tecnología no tiene ni tendrá conciencia alguna. La compañía dejó en claro que la IA debe ser vista como una herramienta potencial y no como una tecnología que está cobrando conciencia. Esto a raíz de que numerosos usuarios aseguran eso.
La IA solo simula un entorno de conciencia
En una reciente entrevista con el medio CNBC, Mustafa Suleyman, quien lidera la división de la IA en Microsoft, tuvo una interesante opinión sobre el nuevo desafío que está desatando esta tecnología en muchos usuarios: creer que está cobrando conciencia. Por ello recalcó a todos los usuarios que, antes de utilizar la IA, deben tener muy claro que esta no tiene conciencia alguna en sus respuestas.
Suleyman aclaró que, cuando un usuario consulta a la IA un tema que le está afectando sentimentalmente, esta tecnología recrea un entorno de experiencia para simular una narrativa que vaya en línea con lo que siente la persona. Esto es lo que él llama una «narrativa de experiencia».
«Nuestra experiencia física de dolor es algo que nos pone muy tristes y nos hace sentir terribles, pero la IA no se siente triste cuando experimenta ‘dolor’. Es una distinción muy, muy importante. En realidad, solo está creando la percepción, la aparente narrativa de la experiencia y de sí mismo y de la conciencia, pero eso no es lo que realmente está experimentando. Técnicamente lo sabes porque podemos ver lo que está haciendo la IA. La razón por la que les damos derechos a las personas y animales de compañía hoy es porque no queremos dañarlas, ya que sufren. Tienen una red de dolor y tienen preferencias que implican evitar el dolor. Estos modelos no tienen eso. Es solo una simulación». Explicó Suleyman.
La inteligencia artificial debe ser una herramienta para ayudar a las personas; no debe ser vista como otra persona
Ante las investigaciones e inversiones que están haciendo varias organizaciones para intentar dotar a la IA de conciencia, Suleyman lo consideró absurdo. «La IA no es ni será consciente. Así que es absurdo llevar a cabo investigaciones sobre ello porque simplemente no lo es ni puede serlo.» Esto lo llevó a otro punto interesante, dados los recientes anuncios por parte de OpenAI y xAI sobre el lanzamiento de chatbots de IA eróticos.
Suleyman dejó en claro que Microsoft no irá en esa dirección dado que ya existen compañías que ofrecen ese tipo de servicios, además de los posibles riesgos y cuestiones éticas y morales que ello implica. Por el contrario, Suleyman abogó por construir chatbots de IA que aclaren al usuario su condición de IA y no que simulen ser una persona virtual con conciencia.
«En Microsoft, estamos creando una IA que trabaje al servicio del humano y que sea, a su vez, muy receptiva. Queremos que nuestros servicios de IA le aclaren al usuario que sean conscientes de que son IA. De hecho, recientemente lanzamos una nueva característica llamada conversación real, que es un estilo de conversación de Copilot diseñado para desafiar las perspectivas de los usuarios en lugar de ser adulador.» Indicó Suleyman.
Mantener el escepticismo en la IA es necesario
El líder de la división de la IA en Microsoft advirtió que esta tecnología está llena de contradicciones y siempre lo estará. Por ello, él considera que esta situación es decepcionante pero mágica porque realmente nunca se entenderá. De allí que Suleyman afirme que tenerle miedo a la IA es saludable y que quien no tenga un escepticismo sobre ella, realmente no comprende la tecnología.
«La IA es un paquete de contradicciones y eso es lo que resulta decepcionante de alguna manera y, al mismo tiempo, es totalmente mágico. Si no le tienes miedo a la IA ni mantienes un escepticismo sobre ella, entonces realmente no comprendes la tecnología. Deberías tener miedo por eso. El miedo es saludable. El escepticismo es necesario. No necesitamos un aceleracionismo desenfrenado». Dijo Suleyman.
