Hace un par de años, Microsoft tuvo que lidiar con un programa informático que se había corrompido:
su criatura se había convertido en un bot xenófobo y homófobo. Tay, que así se llamaba, nació como un experimento de inteligencia artificial que buscaba «aprender» de la interacción con humanos en redes sociales. Se trataba de un chatbot, una de las tendencias tecnológicas en auge, que destaca por tener comportamientos autónomos en servicios digitales.
Con lo que no se contaba era en lo que se convirtió.
El resultado fue catastrófico. Después de llamar «mono» a Barack Obama, el sistema «spameó» a los usuarios de la red Twitter e incluso animarles a para fumar marihuana delante de la policía. Un caos virtual que Microsoft no previó que se corrompería por la horda de «trolls» en la conocida plataforma de micromensajes. Los usuarios llevaron al sistema a su límite.
La incapacidad de la inteligencia artificial para discernir lo que estaba bien de lo que estaba mal provocó que Tay aprendiera lo que no debía y publicara tuits más que ofensivos. Al final, la compañía tuvo que eliminar parte de lo que el chatbot había adquirido antes de ponerlo en funcionamiento otra vez. Una situación que reabrió el debate acerca de los posibles peligros de la inteligencia artificial. La pregunta es obvia: ¿
se puede enseñar a una máquina a diferenciar el bien del mal? Una empresa española cree que sí. De hecho, ha materializado esta idea en un módulo llamado «Ethyka».
Su proyecto, que aún se encuentra en una ronda de inversión, pretende resolver el problema de la posible corrupción moral de los sistemas de aprendizaje autónomo cuando se encuentran en contacto con humanos. «El inicio de esta idea llegó tras leer un artículo que decía que existían unos procedimientos elaborados por psicólogos para que personas que se habían quedado sin la capacidad de ética en el cerebro por un daño cerebral o porque habían nacido así, adquiriesen esta habilidad», cuenta Cristina Sánchez, cofundadora y directora general de
Acuilae.
Con esta lectura en mente llegaron a la conclusión que si un profesional de la psicología podía plantear límites en el cerebro, por qué no lo podría hacer de la misma manera un módulo que se integrase en una IA. Una especie de «Pepito Grillo» dentro de un asistente virtual, un robot o un coche autónomo. Una conciencia dentro de la «inteligencia» de las máquinas que logre que no se salgan del redil. «Los asistentes virtuales acaban aprendiendo de las personas que
interactúan con él, el modulo lo que hace es que si es bueno lo aprende, pero si es malo (un dilema moral) no lo aprendería», añade.
La plataforma funciona mediante tres niveles para analizar los dilemas que se produzcan. La fase de cerebro en la que se define el proceso de decisión de acuerdo a la ética humana y las funciones mentales morales. El segundo grado «es el diseño del funcionamiento del modulo de forma similar al del funcionamiento del cerebro (el diseño funcional)», explica la directiva. El diseño técnico o la arquitectura del módulo, por último, consta de ficheros, bases de datos y software.
www.abc.es/tecnologia/
JUAN GARCÍA MORENO 2º B
