TIC    

Lecciones de ética para la inteligencia artificial

Microsoft plantea seis principios que, si no se cumplen, le impedirán “trabajar en algunos proyectos”, dice Pilar López, mientras su vicepresidente corporativo para IA, Jordi Ribas: “Hay una tormenta perfecta de aumento de capacidades para su desarrollo, pero estamos muy lejos de la AGI y de la singularidad”

15 JUN. 2018 - Madrid
10 minutos
El vicepresidente corporativo de Microsoft para IA, Jordi Ribas, junto a la presidente en España de la compañía, Pilar López. / INNOVADORES

La inteligencia artificial como pesadilla futurista, laminadora de empleos y destructora de la estructura social, o capaz de crecer desbocadamente por su cuenta con algoritmos capaces de crear nuevos algoritmos, no son cuestiones que angustien ahora mismo al español Jordi Ribas, vicepresidente corporativo de Microsoft para IA e investigación, con oficina en Seattle.

El machine teaching lo estamos investigando, pero no utilizando

“Estamos lejos de eso, de la AGI [artificial general intelligence, capaz de desarrollar tareas intelectuales] quizás faltan 50 años... Y muy lejos de la singularidad [la IA con consciencia de si misma], cientos de años. Eso es ciencia ficción”, asegura, aunque por otra parte reconoce que, en lo de “algoritmos que desarrollan algoritmos”, algo sí está haciendo Microsoft. “Ese proceso se llama machine teaching, y lo estamos investigando, pero no utilizando. Y no funciona muy bien. A veces lo que hace es deteriorar en vez de mejorar el algoritmo… Ahora estamos en una época de cambios, porque lo impone el modelo de negocio, pero tendrá que haber un cambio de cultura y también de regulaciones. Algunos de nuestros clientes nos dicen que prefieren una evolución, no una disrupción total”.

Lo que ha traído a Ribas hasta Madrid es precisamente un encuentro con 300 empresas, en la jornada Organizaciones Inteligentes en la Economía Digital, para hablar de la IA como motor de negocio (con un impacto de un billón de euros en tres años) y desde el punto de vista del “diseño ético para inteligencia artificial”.

La presidenta de Microsoft España, Pilar López, desgrana esa ética para la IA en seis puntos clave: “Ecuanimidad, para asegurar la ausencia de prejuicios en las recomendaciones; seguridad, de los datos y el funcionamiento; privacidad, aplicando como compañía los criterios del GDPR de manera global, es decir en todo el mundo; inclusión de todas las personas; transparencia sobre el uso de datos y funcionamiento; y responsabilidad de la compañía y del ecosistema sobre su funcionamiento”. López asegura que, en función de esos principios éticos, Microsoft pone límites: “habrá proyectos en los que no trabajaremos”.

Ribas explica que el auge de la IA, que la ha convertido ahora en un asunto de moda después de casi 10 años de estar en uso en aplicaciones tan habituales como buscadores o Excel, es consecuencia de una “tormenta perfecta” en la que confluyen varios factores que han supuesto un salto tecnológico.

“Lo primero, la capacidad de computación, que ha crecido de una manera enorme para gestionar programas que eran muy difíciles hace un par de años”, apunta Ribas. “Lo segundo, la cantidad de datos disponibles, procedentes de muchas fuentes, incluidos sensores y dispositivos. Nosotros los diferenciamos en tres tipos, lo llamamos ‘gráficos’: el conocimiento general, que gestiona nuestra API Microsoft Graph; el conocimiento de empresa, que incluye emails, información interna; y el conocimiento del usuario, su información privada, que puede ser gestionada por un agente digital, como Cortana, para manejar esos gráficos”.

Para hacerlo más fácil de entender, Ribas propone un ejemplo: “Le digo a Cortana avísame para ir esta tarde al gimnasio. Esta conoce la dirección del gimnasio, que está en mi información privada. Consulta con mi agenda de trabajo qué reuniones tengo, para saber a qué hora estoy libre y en el conocimiento general comprueba en el mapa a qué distancia está la oficina del gimnasio para saber cuánto voy a tardar y a qué hora puedo llegar”.

Nosotros no vemos lo que cada empresa tiene en sus datos, es privado y está todo encriptado

Queda un tercer elemento de esa tormenta perfecta: “Hay una nueva generación de algoritmos, como los de deep learning, que otorgan a la inteligencia artificial habilidades humanas”. Ribas se refiere, por ejemplo a la capacidad de reconocer voz y objetos de manera visual. “En 2016 ImageNet hizo una prueba con más de 1.000 clases de objetos. Un humano identifica correctamente una media del 96%. Ahora con [la arquitectura] ResNet el sistema consigue la misma media del 96%. En cuanto a la voz, con Switchboard en redes LSTM se iguala la capacidad media humana de identificar 95 de cada 100 palabras escuchadas. En enero de este año un test SQuAD realizado en Stanford demostró una comprensión de lectura similar a la de los estudiantes. Y allí son muy listos. Y en marzo, una prueba de traducción automática alcanzó el 69,9%”.

Ribas muestra casos de cómo en Estados Unidos se están usando estas habilidades en el ámbito de la salud: el médico utiliza la máquina para transcribir la conversación con su paciente (allí es normativo, dice) mientras el sistema va extrayendo conceptos clave en tiempo real, para facilitar la plena comprensión de lo que el enfermo quiere transmitir. También muestra la historia de un padre chino, buscando a su hijo perdido años atrás, mediante el proyecto Baby Come Home. “En China se busca a 70.000 niños perdidos”, dice. Utilizando imagen cognitiva de Photo MC, que analiza las fotos de todo el que pasa por delante de cámaras en lugares públicos, el sistema encontró al muchacho. La IA no sólo compara los rasgos, sino que hace una predicción de cómo han podido modificarse en tres o cuatro años de crecimiento las facciones del crío que busca.

Además, tres agentes digitales de gran peso en los mercados, "Cortana, Alexa y Aura, podrán interactuar entre si”, como consecuencia de acuerdos alcanzados por Microsoft con Amazon y Telefónica.

En cuanto a la sustancia básica para la IA, Ribas responde a INNOVADORES que su compañía posee ya una gran base de datos de carácter general, que puede ofrecer a las empresas, con las herramientas, para facilitarles la creación de “su propio gráfico”, en el entorno Azure.

“Pero nosotros no somos los guardianes de la base de datos”, objeta. “Nosotros no vemos lo que cada empresa tiene en sus datos, es privado y está todo encriptado. Podemos inyectarle nuestro gráfico y las empresas pueden hacer acuerdos para compartir datos entre ellas”. Subraya que en algunos campos específicos hay ya mucho trabajo desarrollado en el entrenamiento de la IA, como la genómica, la medicina de precisión y la analítica de sangre, que “puede detectar una enfermedad antes de que se manifieste”. Pero el terreno sigue siendo muy amplio, con muchas opciones de “optimización con datos en cada tipo de industria”.