Riesgos legales y operativos. Normas tentativas de uso
- ¿Qué es ChatGPT?
ChatGPT es sólo una, -la más popular- de las nuevas herramientas de inteligencia artificial (“IA”) generativa que se han lanzado al mercado desde 2022.
El modelo de lenguaje GPT (Generative Pre-trained Transformer) es una herramienta de inteligencia artificial que genera texto a partir de una entrada de texto dada.
GPT utiliza el aprendizaje profundo o deep learning, que es un tipo de aprendizaje automático que utiliza redes neuronales artificiales para aprender a partir de grandes cantidades de datos. El modelo de lenguaje GPT-3 es uno de los modelos más grandes y potentes del mundo, con 175 mil millones de parámetros.
El modelo de lenguaje GPT-3 es capaz de generar texto coherente y preciso, y a veces puede ser indistinguible del texto escrito por humanos.
ChatGPT, creado por OpenAI, se encuentra ya en su versión 4 (ChatGPT-4), que es mucho más avanzada que GPT-3, referenciada arriba.
- ¿Está tu organización obligada a regular el uso de ChatGPT y similares?
Hablamos de una herramienta más, por muy novedosa que sea.
Por eso, entendemos que las organizaciones no tienen la obligación sino la potestad de regular internamente y de forma específica el uso sensato y responsable de todos los medios y herramientas que sus empleados pueden utilizar en su trabajo diario.
Las organizaciones deben concienciar a sus equipos de la necesidad de realizar un uso prudente de una tecnología sexy pero que, a día de hoy, (i) es objeto de escrutinio directo por las autoridades, (ii) adolece de fallos importantes de funcionamiento y (iii) cuyo uso puede acarrear responsabilidades legales.
En cualquier caso, ChatGPT está sujeta, como cualquier otra herramienta, a las leyes y normativas aplicables (por ejemplo, la normativa de protección de datos o de propiedad intelectual; aunque existan múltiples dudas sobre cómo aplicarlas).
Esta guía pretende ayudar a las organizaciones a regular el uso de esta herramienta para evitar los riesgos abajo expuestos.
- Riesgos operativos
Dejando de lado ciertas cuestiones legales, que tardarán tiempo en dilucidarse, se han reportado errores de distinto signo e importancia en el funcionamiento de ChatGPT,
Lo cierto es que la herramienta no lo oculta, sino que referencia de forma directa y transparente algunas de sus limitaciones:
- Errores, alucinaciones
Desde el punto de vista práctico, ChatGPT, así como las variadas aplicaciones que se comercializan utilizando la tecnología de OpenAI, son capaces de resolver tareas con una eficacia disruptiva. Sin embargo, por ejemplo, a la hora de buscar, elaborar, resumir y presentar información, ChatGPT falla en un porcentaje significativo de sus respuestas (en número y contenido).
La herramienta frecuentemente combina información veraz con detalles falsos que presenta con la misma verosimilitud y aplomo que los verdaderos. Este fenómeno se ha bautizado popularmente como “alucinaciones” (o “confabulaciones”).
– Ejemplo: ChatGPT ha informado del fallecimiento de gente viva, de abusos sexuales que no se habían cometido, de la participación en delitos de corrupción de la persona que los había perseguido, o ha asegurado y reconfirmado que Pedro Sánchez tiene barba.
– Ejemplo: En el ámbito académico, es un clamor que, al analizar los estudios disponibles sobre un tema determinado, ChatGPT se inventa citas, autores y papers.
Aunque, razonablemente, se espera que estos errores sean corregidos en el futuro, en la actualidad los resultados de la herramienta deben ser revisados en todo caso.
- Posible infracción inconsciente de nuestras obligaciones de confidencialidad
ChatGPT refina sus respuestas mediante sus interacciones con el usuario y es capaz de aprender de los datos que se le suministran. En este sentido, es fundamental no nutrir la herramienta con datos personales o información confidencial o sensible, -de la organización o de sus clientes – que se encuentren bajo su responsabilidad, ya que ChatGPT podría utilizarlos o hacerlos públicos en un futuro.
– Ejemplo: The Economist en Corea informó de una brecha de seguridad sufrida por Samsung al suministrar sus trabajadores a ChatGPT diferentes secretos empresariales: (i) el código fuente secreto de un software; (ii) los protocolos para detectar chips defectuosos y (iii) las notas de una reunión de empresa. Por esta causa, recientemente Samsung ha prohibido el uso de IAs generativas en dispositivos corporativos.
– Ejemplo: existen servicios de terceros como Otter AI (aunque, en realidad, este servicio es sólo una capa propia montada sobre GPT3) que ofrece la transcripción a texto en tiempo real de reuniones y audios de voz. Como es obvio, cualquier información reservada o dato personal transcrito es accedida por un número indeterminado de terceros con ocasión de la prestación del servicio.
En consecuencia, este tipo de servicios no deberían ser contratados o utilizados sin cumplir el protocolo de validación y contratación general establecido para proveedores, en el que se verifica la solvencia técnica y adecuación jurídica del servicio y se analizan los riesgos derivados del servicio.
En este caso, de nuevo, la propia herramienta hace una advertencia genérica (aunque no describe apropiadamente la dimensión del riesgo):
- Brechas de seguridad por malfuncionamiento de las propias herramientas
El riesgo de brechas de seguridad es alto, debido a los errores propios de una tecnología en fase tan temprana.
De hecho, se han reportado brechas de seguridad que provocaron la suspensión temporal del servicio.
– Ejemplo: algunos usuarios fueron capaces de acceder a las interacciones con la herramienta de otros.
– Ejemplo: los datos de identificación y medios de pago del 1,2% de los usuarios Premium quedaron al descubierto, accesibles vía web.
Cabe resaltar que ChatGPT salió al mercado sin política de privacidad ni documentación con información suficiente o relevante sobre medidas de seguridad de la información y protección de datos personales.
Aun así, no existen certezas sobre la cantidad de personas de OpenAI y terceras empresas que pueden acceder a las interacciones con los usuarios, ni el nivel de acceso a ello.
Recientemente, OpenAI ha habilitado la posibilidad de inhabilitar el historial de interacciones con la herramienta. Hecho esto (está activado por defecto), OpenAI sostiene que la herramienta no “aprenderá” de nuestras interacciones ni de los datos con los que la nutramos.
- La actuación de las autoridades de protección de datos
La irrupción en escena de varias autoridades europeas de protección de datos, especialmente la italiana, ha supuesto que OpenAI haya implementado medidas, controles y elementos necesarios de protección para evitar el veto que la autoridad italiana le había impuesto por los defectos encontrados. En particular:
- Información para los usuarios sobre el tratamiento de sus datos, con mejora de la política de privacidad y disponibilidad de la misma desde la página de inscripción previa al registro;
- Derecho de oposición al entrenamiento del algoritmo y reconocimiento del interés legítimo como base de legitimación para ello; o
- Derecho de supresión y reconocimiento de que técnicamente no se les será posible rectificar futuras inexactitudes.
Esto es un avance positivo, pero no significa que a partir de ahora exista ninguna garantía o seguridad absoluta. Habrá que estar expectante al resultado de la investigación que la Agencia Española de Protección de Datos declaró haber iniciado, o la opinión que emita el grupo de trabajo del Comité Europeo de Protección de Datos (entidad que reúne a todas las autoridades europeas del ramo) sobre este tema.
- ¿Una empresa puede afrontar responsabilidades legales al utilizarlas?
Sí. El riesgo legal sería el incumplimiento inducido que la herramienta puede provocar al suministrarnos variaciones de contenidos protegidos (software, obras tradicionales), datos personales obtenidos y tratados sin base legal, o datos o informaciones inexactos o directamente inventados. Y que nuestra empresa u organización, claro está, presente como trabajo propio.
La empresa también puede afrontar responsabilidades en materia de protección de datos, como una brecha de seguridad por una divulgación de datos no intencionada.
Por eso, proponemos las siguientes normas tentativas de uso:
- Normas de uso
El uso de IAs generativas en el ámbito empresarial podría ser regulado en el siguiente sentido:
- En la medida de lo posible, estas herramientas deben utilizarse/entrenarse en local, evitando que inputs propios de información lleguen a los servidores del proveedor.
- Si lo anterior no es posible, su uso debe ser cauteloso y restrictivo, con prohibición absoluta de nutrir la herramienta con datos personales que se encuentren bajo la responsabilidad de la organización (nombres, apellidos, direcciones de correo corporativo o personal (…) de empleados, clientes, proveedores), o información propia o de clientes o terceros (en general: cualquier tipo de información reservada, no disponible públicamente. Nos referimos en particular, a cualquier información etiquetada como reservada o secreta, o especialmente valiosa, ya sea de elaboración propia u obtenida en el contexto de la actividad propia de la organización.).
Se trata de evitar incumplimientos de la normativa de privacidad, pero también de evitar fugas de know-how propio y ajeno (información confidencial, secretos empresariales).
Si los empleados utilizan estas herramientas a título particular, se les debe prohibir que las integren con sus cuentas de servicios corporativos. Esta integración puede abrir el acceso a información corporativa.
El resultado es más útil y personalizado, pero la organización pierde el control sobre su información propia y de terceros, pudiendo incurrir en las responsabilidades descritas anteriormente.
- Las respuestas, resultados o outputs de la herramienta deben ser obligatoriamente revisados por un experto en la materia de que se trate, siempre que tengan como destino integrarse en el know-how interno de la organización, en entregables a clientes o en documentos y textos publicables; es decir, cualquier documento que pueda tener un impacto de forma externa o interna.
- Mayor diligencia, si cabe, se aplicará en la revisión de los resultados o outputs relacionados con personas físicas, especialmente cuando se trate de personas vivas, personas que no tengan la condición de “famosas” o personajes “relevantes” o “públicos” (como políticos, actores o empresarios relevantes), o de datos de naturaleza sensible.
- En cualquier caso, se debe indicar siempre si se ha hecho uso de ChatGPT, de forma clara, especialmente cuando el texto haya sido extraído literalmente de la herramienta. Se considera buena práctica también indicar el uso de la herramienta como apoyo, cuando su intervención sea significativa.
Mayo 2023
Citizen8
Citizen8 son: Isabel Barberá, Gerard Espuga, Jorge García, Lidia Gimeno, Guillermo Lazcoz, Darío López, Mikel Recuero, Rahul Uttamchandani y Carmen Villarroel.
Este documento pretende la concienciación de las organizaciones en un uso de la IA respetuoso con la legalidad vigente y los derechos de los interesados. No constituye asesoramiento jurídico: cada organización debe asesorar su uso en consideración a las circunstancias concurrentes en cada caso.
Esperamos sus comentarios, críticas (constructivas), gruñidos o troleos en Linkedin https://www.linkedin.com/company/citizen8 y en twitter: @wearecitizen8
https://citizen8.eu coming soon.