Fabián García Pastor.

Opinión

Las máquinas inteligentes autónomas tendrán su propia ética

Senior Advisor for Innovation and Digital Transformation en ENLANZA y Director en OdiseIA. Twitter: @fabiangpastor - LinkedIn: http://www.linkedin.com/in/fabiangarciapastor.

Guardar

Inteligencia Artificial.
Inteligencia Artificial.

¿Tienen los robots inteligentes autonomía de funcionamiento y decisión? Hay dudas sobre si las máquinas inteligentes tienen capacidad para tomar decisiones propias de forma independiente a lo que sus diseñadores les han programado. Sin entrar en este debate, es claro que en el momento en el que los sistemas de IA tengan autonomía, sus decisiones serán buenas o malas, más o menos acertadas y, también, éticas o no éticas.

Cuando un robot con inteligencia artificial tenga autonomía, podrá tomar algunas decisiones que se consideran éticas y otras que no lo son. Sí, seguirá muchas de las normas éticas que sus programadores le hayan transmitido, pero su capacidad de operar con autonomía, junto a su inteligencia, harán que la aplicación de algunos de los principios éticos se personalicen y sean, por tanto, propios.

Consejo de la Unión Europea (Bruselas, 25 de noviembre de 2022).

Consejo de la Unión Europea (Bruselas, 25 de noviembre de 2022).

Actualmente sabemos que algunas máquinas inteligentes producen resultados sesgados, por ejemplo, favorecen en ciertos casos a hombres frente a mujeres o a personas de raza blanca frente a las de raza negra. Se sabe que esto es debido a que los datos que se suministran a la máquina para que construya su modelo y tome decisiones están sesgados desde el origen. Al corregir estos sesgos de los datos en el origen, normalmente se corrigen los sesgos en los resultados, al menos los debidos a este motivo.

Otra cosa bien diferente es cuando, a pesar de que los datos con los que se alimentan a la máquina son correctos, ésta pueda generar resultados sesgados debido a su inteligencia y a su autonomía. Será, además, muy difícil comprobar que los resultados estén sesgados y más difícil aún lo será comprender cómo se ha llegado a esos resultados (ver más abajo complejidad vs explicabilidad). Cuando esto ocurra -si es que aún no ha ocurrido- las máquinas inteligentes dispondrán de su propia ética, diferente a la de los humanos.

Por tanto, desde el momento en el que las máquinas inteligentes tengan un cierto grado de autonomía, sabremos que también tendrán su propia ética. Probablemente la mayor parte de sus principios coincidirán con los de sus programadores, pero habrá algunos que no.

Conversación con ChatGPT (diciembre de 2022).

Conversación con ChatGPT (diciembre de 2022).

Hace unos días emitimos la masterclass Inteligencia Artificial y Ética. Se trata de una iniciativa de Odisea School, el proyecto para impulsar la formación, la divulgación y el emprendimiento en Inteligencia Artificial. Se trata de una iniciativa de OdiseIA, el Observatorio de Impacto Social y Ético de la Inteligencia Artificial.

La Inteligencia Artificial ha visto un renacer y se encuentra actualmente en plena ebullición. Su rápido desarrollo nos genera esperanzas y dudas. Nos hace vislumbrar un mundo más justo y equitativo, más sostenible, en el que las personas tengan un mejor ocio y los profesionales una mayor productividad. Pero también hay dudas. Dudas sobre el impulso que pueden tener las armas inteligentes y de destrucción masiva, sobre el desarrollo de robots cada vez más autónomos con un comportamiento a veces sesgado e injusto, sobre la explotación de nuestros datos privados o sobre el incremento del desempleo.

Cuando nos preguntemos si esa nueva aplicación de IA será una amenaza o, por el contrario, un impulso hacia un mundo mejor, la ética es nuestra guía. Por ello y para ayudar a responder a la pregunta si la IA es ética hemos creado esta Masterclass en la que hemos seleccionado tres principios fundamentales para ayudarnos en el análisis: Responsabilidad, Explicabilidad y Privacidad.

La Responsabilidad

Javier Camacho y su invitado, José Luis Fernández Fernández, nos dicen que la responsabilidad es un principio fundamental y propio de la naturaleza humana. La responsabilidad es un término habitual en las empresas desde hace mucho tiempo -no así la ética- y, en general tiene dos connotaciones: la rendición de cuentas y la responsabilidad social corporativa.

Javier y José Luis nos lanzan cuatro preguntas, que contestan en la masterclass, y que conviene realizarse al principio de todo proceso responsable: quién es el responsable, de qué es responsable, frente a quién y en base a qué se es responsable, y nos hablan de tres principios para aplicar la acción responsable: la Beneficencia, la Autonomía y la Justicia.

Finalmente comentan un conjunto de obstáculos que dificultan la aplicación del principio de responsabilidad. Uno de ellos es la sensación de impotencia que a veces hace que las personas se inhiban cuando han de aplicar este principio. En todo caso, la primera responsabilidad es tener convicciones serias y haberlas pensado bien, indican.

Ante una persona del auditorio que se cuestionaba si la ética puede ser un obstáculo para el desarrollo de la IA, la respuesta es clara: no solo no será un freno sino que la ética es la luz que enfoca hacia dónde debemos de ir.

La Explicabilidad

Mónica Villas y su invitado Ignacio Gutiérrez Peña se encargaron de desarrollar el tema de la Explicabilidad o Interpretabilidad. Con la explicabilidad se pretende justificar el modelo y los resultados que las aplicaciones de la Inteligencia Artificial muestran al usuario. No solo se aplica a la IA sino a otros campos, más cotidianos para todos, como, por ejemplo, la medicina (pensemos en un paciente pidiendo explicaciones sobre un diagnóstico que le comunica su médico).

Cuanto mayor es la Complejidad de un modelo de Inteligencia Artificial menor es su Explicabilidad. Así, por ejemplo, los modelos de Deep Learning, que suelen ser complejos, suelen tener baja explicabilidad. Precisamente, la explicabilidad ha adquirido una gran importancia en los últimos tiempos como consecuencia de la complejidad de los algoritmos.

Ignacio, que ha creado una empresa en base a la explicabilidad y ha desarrollado herramientas específicas, explica en la masterclass cómo están diseñadas. Habitualmente es muy difícil, comenta, entender el funcionamiento de los modelos de IA para alguien que no sea un científico de datos y esa es la motivación que nos ha llevado a crear la empresa.

Finalmente, alguien del auditorio abrió una reflexión con una pregunta sobre si la explicabilidad puede mermar la propiedad intelectual en el sentido de que desvelar ciertos detalles de las aplicaciones que pueden conducir a que sea copiada.

La Privacidad

El último principio ético que tratamos en la masterclass es el de la privacidad y tuve el gusto de presentarlo junto a Borja Adsuara Varela. La privacidad es el derecho a mantener la intimidad. Se trata de un derecho universal recogido en la carta de Derechos Universales de las Naciones Unidas (artículo 12).

En las masterclass se menciona la enorme importancia que ha adquirido la privacidad como consecuencia de la gran producción de datos individuales, y de las muchas empresas, algunas muy grandes, que los usan y los explotan. Los datos personales tienen un valor, aunque casi siempre los ofrezcamos gratis, pero resulta que, en contra de lo que se cree, nuestros datos personales no son únicamente nuestros ya que la privacidad es un hecho colectivo.

Borja describió una imagen muy visual de la privacidad. Indicó que la figura que normalmente se utiliza para señalar la privacidad es un candado y debería de ser.más bien, un cinturón de seguridad, que debe de funcionar cuando es requerido y no de continuo. Al igual que una buena privacidad por diseño, los frenos de un coche permiten al conductor ir más rápido ya que tiene la seguridad de poder detener el coche cuando lo precise.

La masterclass terminó con un pequeño debate en el que participaron todos los ponentes en el que respondieron a la pregunta inicial: ¿Es ética la Inteligencia Artificial?. Además de conocer las diferentes opiniones que se vertieron sobre la mesa, deseamos que tras el visionado de esta masterclass dispongas de nuevos criterios y argumentos para profundizar ante un tema muy actual que está en plena evolución.