Las tres grandes claves de la Inteligencia Artificial

El pasado mes de Septiembre, y por invitación del Colegio de Físicos de España y la asociación Unión Profesional, me invitaron a escribir una columna en la revista Profesiones de ésta última. La revista iba a incluir un reportaje sobre robótica y querían un texto breve  (para columna o recuadro firmado), pero desde una perspectiva más filosófica (no técnica) . Ya escribí algo sobre el tema en El Miracielos: La Inteligencia Artificial NO es el lobo para el hombre (¡es el hombre!) y tuve ocasión de dar un enfoque algo complementario sobre el tema, teniendo en cuenta la brevedad del texto que se me pedía.

La revista completa la podéis encontrar en este enlace.  El acceso directo al artículo de Esther Plaza Alba, en el que aparece mi columna, en este otro enlace.

Reproduzco en lo que sigue el texto de la columna en cuestión.

Las tres grandes claves de la Inteligencia Artificial

Dios creó al hombre a su imagen y semejanza. O eso al menos dice el Génesis en la Biblia. El hombre tiene ahora el difícil reto de no crear a máquinas a su imagen y semejanza, sino de mejorarse a sí mismo. La tecnología no es un impedimento. Las cuestiones clave son otras.

A mi juicio, las tres grandes claves de la inteligencia artificial son la ética de las máquinas, el sesgo algorítmico y la seguridad.

Un coche autotripulado va a sufrir un grave accidente con pérdida de vidas humanas. ¿Cómo tiene que maniobrar? ¿Tratando de salvar al dueño, a otros conductores/ocupantes de vehículos? ¿A sí mismo?

El sesgo algorítmico tiene que ver con el aprendizaje. Imaginemos un sistema inteligente para propuestas salariales. Si le entrenamos con los datos actuales, mucho me temo que deducirá que una mujer tiene que cobrar menos que un hombre. No sabrá el porqué, pero pensará que tiene que ser así. Y lo mismo puede suceder con algunos colectivos en temas sensibles como créditos bancarios, acceso a estudios, selección de personal, … A menos que eliminemos el sesgo en el entrenamiento, los sistemas inteligentes pueden contribuir a aumentar las injusticias y brechas sociales.

Las máquinas harán aquello para lo que las diseñemos. Pero, ¿podemos estar seguros de esto? ¿Podemos asegurar que no habrá efectos colaterales no esperados? ¿De que no cambiará ese objetivo? No sólo por el diseño de sus algoritmos, sino también por la vulnerabilidad ante ciberataques.

La Inteligencia Artificial no es el lobo para el hombre. Es el propio hombre el que lo es.

La entrada Las tres grandes claves de la Inteligencia Artificial aparece primero en El Miracielos.



Fuente: El miracielos (Las tres grandes claves de la Inteligencia Artificial).