Los dilemas éticos parecieran pertenecer al tipo de preocupaciones de las que se ocupan exclusivamente los religiosos y los filósofos. No la solemos asociar con el diseño de un software ni con algoritmos. La idea común de la inteligencia artificial es su operatividad en complicados mecanismos cuyo único objetivo es optimizar funciones. Nada que ver con elucubraciones morales. Eso es de Platón o Sócrates.
Sin embargo a medida que las aplicaciones de la inteligencia artificial aumentan, se evidencia la necesidad de incorporar la ética. Preocupa la falta de transparencia y el sesgo de estas herramientas automatizadas. Hay preguntas de difícil respuesta. ¿Qué valores se inculcan en el software y cómo los algoritmos llegan realmente a las decisiones?
Los dilemas éticos y tecnologías emergentes
Un informe elaborado por Darrel West, director del Centro de Innovación Tecnológica Brookings en Washington, plantea consideraciones al respecto. Entre ellas se incluyen cuestiones de parcialidad, equidad, seguridad, transparencia y responsabilidad. La preocupación es que la IA sea parcial, injusta, o que carezca de la transparencia o la responsabilidad adecuadas. West examina como las compañías tecnológicas están manejando los dilemas éticos y bajo que principios se pueden abordar estas preocupaciones.
Puedes leer: Conoce a Unitree A1, el perro robot que puede ser tu mejor amigo
Un tema que ha atraído una atención considerable es el de las aplicaciones de la IA a las actividades militares. Se ha debatido si la IA debe utilizarse en actividades relacionadas con la guerra.
El reconocimiento facial discrimina
Otra seria consideración ética consiste en el uso del software de reconocimiento facial usado injustamente contra las minorías. Hay considerable evidencia de sesgos raciales en el software de reconocimiento facial. Con frecuencia estos programas funcionan mal cuando intentan reconocer rasgos afroamericanos o asiático-americanos. La operatividad de este tipo de tecnología puede conducir a una aplicación discriminatoria de la ley, con consecuencias trágicas.
La vigilancia del gobierno es un desafío en muchos lugares. El control de la vida de los ciudadanos es una proridad de alto nivel para muchos países. El severo escrutinio de las actividades de los ciudadanos se ha convertido en uno de los dilemas éticos más agudos. Microsoft ha argumentado que el reconocimiento facial «debe dejarse en manos de las empresas tecnológicas». Otras empresas, sin embargo, no han adoptado esta postura. Amazon vende su software de reconocimiento facial Rekognition a agencias de policía y otros tipos de unidades gubernamentales.
Vigilancia, premios y castigos
Los dilemas éticos de la inteligencia artificial también juegan un papel importante en los sistemas de crédito social. China ha implementado este sistema de manera aplastante. Esto implica la recopilación de datos de las redes sociales, las infracciones y el pago puntual de impuestos. Esta información resulta en la calificación para optar a créditos, viajes, matrícula escolar y empleos.
El problema de estos sistemas depende de su opacidad. No está claro qué factores afectan a la puntuación de alguien. Aquellos que tienen una puntuación baja pueden ser excluidos sin saber por qué. Además, dado el acceso no equitativo a actividades que promueven puntuaciones más altas, esos sistemas pueden aumentar las disparidades.
Puedes leer: IOTA será la “Matrix” en el mundo industrial de la IoT
No es fácil resolver ninguna de los dilemas éticos involucrados en la aplicación de la inteligencia artificial. Cada uno de ellos plantea importantes preocupaciones éticas, legales y políticas, y por lo tanto no son de fácil resolución. Los líderes que se ocupan de estos desafíos tendrán que dedicar tiempo y energía considerables para esta compleja relación tecnológica.
