El derecho individual y la IA

El otro día conversaba con Dani, una amiga que alegremente me contaba cómo había ahorrado mucho dinero en los últimos meses gracias a la tecnología. Como alguien apasionado de la computación, no pude resistir la tentación de preguntarle qué había hecho para lograr semejante proeza. «Nada», respondió con una risa. «¡Eso no puede ser!», exclamé, intrigado. Pero ¿cómo nada?, algo debiste haber hecho, le repliqué.

Fue ahí cuando comenzó a contarme de varias situaciones en donde distintas empresas y marcas le habían hecho llegar ofertas irresistibles y personalizadas para productos y servicios que casualmente necesitaba. Estaba fascinada.

Siempre he sido una fanático de Apple. Se que es una empresa que genera amor y odio, por razones que no es oportuno discutir en esta columna. Hace pocas semanas, la compañía recuperó el trono como la empresa más valiosa del mundo, superando a Microsoft, alcanzando un nuevo récord de cotización de su acción. Todo gracias a la alianza con OpenaAI, la empresa detrás de ChatGPT y de las maravillas que hemos conocido de la inteligencia artificial. Pero ese puesto le duró poco a Apple.

Nvidia, la empresa detrás de los procesadores de IA, recientemente y por primera vez, logró por algunos días convertirse en la empresa más valiosa del mundo, superando a dos grandes, Microsoft y Apple. Hoy las tres disputan el trono. Lo que está sucediendo con la IA no ha dejado a nadie indiferente, ni siquiera a Dani, pero el mercado, que no sabe mucho de tecnología, lo ha internalizado rápido en la valorización de la empresa.

De lo que mi amiga probablemente no está consciente, es cuál es el costo que está pagando para poder ahorrar dinero con ofertas personalizadas, ubicuas y oportunas. Ella me contaba que siempre autorizaba el tratamiento de datos personales haciendo click en el formulario.

Es primordial que las empresas, desde una perspectiva ética y legal, no descansen en el consentimiento que ya todos otorgamos, casi en modo automático, confiando en el responsable tratamiento de los datos personales por parte de quien los solicita. Deben ser los guardianes absolutos de esa información.

Pero el problema no se limita al tratamiento de datos personales. El problema puede darse sin siquiera entregar información a un tercero. Conocido es el caso de la actriz Scarlett Johansson, quien amenazó a OpenAI por el uso no autorizado de «su voz» en ChatGPT . La legislación será cada vez más dura para quienes infrinjan leyes y ya en Europa estamos viendo los primeros resultados sobre la materia, con leyes que obligan a las empresas de software e Inteligencia Artificial a hacerse cargo, mucho más allá de los estándares mínimos a los que hemos estado acostumbrados hasta ahora.

Elon Musk ha sido uno de los que ha levantado la voz, criticando el acuerdo de Apple, y fue enfático en decir que «si Apple integra OpenaAI en sus sistemas operativos, se trataría de una violación de la seguridad inaceptable (…)».

Aunque Musk pueda tener sus propias rencillas con la empresa de Altman, no deja de tener un punto, al asegurar que cuando entregamos nuestros datos, se torna prácticamente imposible su trazabilidad y entender lo que sucede en manos de terceros, especialmente cuando se trata de cajas negras de IA. Es por ello que debemos ser muy responsables, como personas y empresas, a la hora de gestionar información en la creciente búsqueda por resultados de corto plazo y no permitir que esta tecnología, que nos ayuda a mejorar nuestra calidad de vida y productividad, sea utilizada de una manera reñida con los derechos individuales y los principios éticos que rigen a la gran mayoría de nosotros como sociedad.