DEBATES ÉTICOS EN LA INTELIGENCIA ARTIFICIAL

La Revolución de la Inteligencia Artificial (IA) ya es una realidad tangible en todos los continentes, pero los códigos de ética regulados por Estados Nacionales se hacen desear. Una vez más el gigante asiático, toma la delantera en materia tecnológica. Con el objetivo de ser líderes de la IA para el 2030, el Ministerio de Ciencia y Tecnología de China emitió un documento donde se detallan los criterios para regular la IA. La premisa principal es asegurarse que esta tecnología esté siempre bajo el control de los humanos.

Del Análisis Tradicional de la Información a la Inteligencia Artificial

Desde hace años viene precipitándose la Revolución de la Inteligencia Artificial. Gracias al acceso a internet y la digitalización de las comunicaciones, se sumergió en nuestros escenarios cotidianos casi sin que lo notáramos. El reconocimiento facial y de voz, los sistemas predictivos de google, los chats bot, las indicaciones de google maps, son sólo algunos ejemplos. Todo parece indicar que el giro hacia lo digital es determinante. Los horizontes tecnológicos ya no son tan nuevos y nos interpelan en las prácticas de todos los días. Si bien hasta hace poco más de una década los avances en IA se circunscribían al ámbito de los laboratorios y universidades,  el desarrollo de técnicas basadas en redes neuronales (Deep Learning), posibilitó agilizar las investigaciones de este tipo y vehiculizarlas a la sociedad.

En un principio las IA buscaban crear sistemas dotados de saberes y estrategias que guíen el comportamiento inteligente de las máquinas, hoy se consolida el paradigma del “aprendizaje profundo” y “aprendizaje automático”.  Las nuevas técnicas adoptadas, tienen por objetivo enfocar el desarrollo de IA a partir de la construcción de sistemas que imitan comportamientos inteligentes. Para lograrlo fueron necesarios dos factores: la disponibilidad de datos masivos (que funcionan como ejemplos a imitar) y métodos de procesamiento masivo de datos, utilizados por las técnicas de aprendizaje automático.

Estos dos factores necesarios para el avance de la ciencia y tecnología, son también un arma de doble filo. ¿Cómo se consiguen los datos masivos? ¿Cómo es procesada esa información? ¿Reproducen sesgos ideológicos al momento de la clasificación? ¿Con qué objetivo se utilizan? Expertos en IA reflexionan sobre estas preguntas que inquietan a gran parte de la sociedad y alertan la necesidad de establecer códigos de ética entono a esta problemática.

Dos de los casos más conocidos de IA que reprodujeron sesgos ideológicos fueron: el sistema de reconocimiento de rostros y Tay el robot diseñado por Microsoft para mantener conversaciones en las redes sociales.

Sistema de reconocimiento de rostros

Estos sistemas están diseñados para identificar de manera automática características sobre un rostro como la edad y el género. Joy Buolamwini, investigadora en el Laboratorio de Medios del Instituto Tecnológico de Massachussetts (M.I.T. Media Lab), se propuso investigar como los prejuicios sociales inciden en el sistema de reconocimiento facial. Los datos recabados en su trabajo muestran que mientras el género de los hombres con piel blanca es identificado casi al 100%, el género de mujeres con piel negra es clasificado de forma correcta entre un 65% y 80%. Este tipo de problemas en las predicciones del software ocurre con mayor frecuencia en datos que el sistema no ha “visto” frecuentemente en su entrenamiento.

Tay el robot de Microsoft para conversar en redes sociales.

Otro ejemplo de los sesgos que debe combatir la IA se desprende de Tay, un robot diseñado por Microsoft para mantener conversaciones informales y divertidas en redes sociales. Un día después de su lanzamiento, tuvo que ser desactivada debido a los posteos racistas y xenófobos que escribió en las redes sociales.

“Soy una buena persona! Sólo odio a todo el mundo.”

”Ricky Gervais (cómico estadunidense) aprendió totalitarismo de Adolfo Hitler, el inventor del ateísmo”.

En otras palabras, estos ejemplos nos permiten observar como las subjetividades y las estructuras sociales no explícitas se reflejan en las relaciones intrínsecas de los datos. Esto impacta en las IA dado que diseño está basado en imitar comportamientos y patrones en los datos recabados. Por este motivo son varios los expertos en IA que alertan de la necesidad de códigos de ética internacionales.

Tecnonacionalismo y el Código de ética para regular la inteligencia artificial publicado por China 2021.

El documento publicado por China recientemente: “Especificaciones Éticas para Inteligencias Artificiales de Nueva Generación” presenta seis principios básicos: mejorar el bienestar humano, promover la equidad, la transparencia, la justica, proteger la privacidad, la seguridad y aumentar la educación ética.  De acuerdo al código, quienes utilicen IA tienen el derecho de aceptar o rechazar el servicio, así como también a detener las interacciones con estos sistemas cuando lo deseen. También se destaca el planteo que se efectúa sobre la necesidad de evitar los riesgos al garantizar que las IA no tengan vulnerabilidades ni brechas de seguridad, asi como que tampoco se pongan en práctica para actividades ilegales o ilícitas. En este contexto China sigue avanzando hacía una revolución industrial 4.0 poniendo en jaque el modelo tradicional de mercado a través del tecnonacionalismo.

¿Qué es el tecnonacionalismo?

Es una estrategia que busca incentivar y promover el desarrollo tecnológico a partir de acuerdos y alianzas público-privadas en donde el Estado es un importante inversionista en investigación y desarrollo, así como también el ente planificador. Esta política tecnológica busca retornar al proteccionismo tecnológico y económico de los modelos nacionalistas del siglo XX. Delinea como objetivo principal colocar a la industria nacional como líder en numerosos campos de la innovación en sectores de salud, energía, telecomunicaciones, militar, entre otros.

Pero China no es el único país que busca incorporar estrategias tecnonacionalistas a sus políticas de Estado. Estados Unidos, Japón, Corea del Sur, Hong Kong, Singapur y Taiwán han incursionado en programas similares desde mediados del siglo pasado. Aunque, especialistas en el campo sostienen que China será la primera potencia mundial gracias los avances realizados con la IA que señalará un cambio disruptivo en el orden mundial. Esto se debe a que China tiene una enorme ventaja a la hora de recolectar y usar datos masivos que le permiten desarrollar un mejor entrenamiento para los algoritmos.

Publicado por Camila De Benedetti

Licenciada en Ciencias de la Comunicación. Escritora, periodista, ghostwriter / escritora fantasma y creadora de contenido freelance. Twitter: @DettiMila Mail: camidb88@gmail.com

18 comentarios sobre “DEBATES ÉTICOS EN LA INTELIGENCIA ARTIFICIAL

  1. Gracias por esta nota acerca de una temática tan interesante e inquietante.
    Los estados nacionales tienen que adelantarse al mercado en estas problemáticas con las que nos interpela la IA, tal como comenzó a hacer China, antes que sea tarde.

    Le gusta a 1 persona

  2. Genial tu nota Mila!!!
    Einstein tenía razón cuando nos decía que la estupidez humana es infinita, eperemos que la IA nos «enseñe» a corregir el rumbo antes de que sea demasiado tarde.
    ( o por lo menos a «mantener el optimismo de la voluntad a pesar del pesimismo del intelecto» como decía Gransci )

    Le gusta a 1 persona

  3. Una entrada mas que brillante y esclarecedera!! El Imperio del Centro estará a la vanguardía en todos los aspectos; por algo Xi, esta desdaparecido fuera de China hace tiempo. Un cálido saludo,

    Me gusta

  4. Paraphrasing Jaron Lanier: There is not actually such a thing as Artificial Intelligence; it is merely different coding techniques and algorithms. AI has all the earmarks of religious fanaticism among its most vocal adherents and evangelists. The important question now is not whether AI will outstrip humanity in terms of intelligence; rather the question is whether we will collectively stoop low enough to to match it with our stupidity.

    Me gusta

  5. Reflexiones muy interesantes sobre un tema en el que, sin embargo, debemos detenernos seriamente.
    Gracias por seguir mi blog y por el interés mostrado.
    Estoy encantado de poder seguir su blog, especialmente porque se puede traducir a mi propio idioma nacional.

    Le gusta a 1 persona

  6. Forgive me. I will not attempt to translate to Spanish. My Spanish is terrible, worse than my Italian and many of my followers would say neither as proficient as my deplorable English. Your blogs take me a long time to work through. They’re worth the effort but limit the time I can spend visiting.

    The AI piece strikes home with me. I am an unwillingly retired IT professional with well over 40 years’ experience. There are those who’ve been at it longer than me, but I joined those people when we wired boards and later when we button-programmed in binary. I’ve not “seen it all” but I’ve seen enough of it to say what I see of late scares the hell out of me.

    I began writing heuristic systems before the term was even coined. Of necessity for the complexity of the problems I was given. It seems now all the rage, the apparent (but mistaken) novelty of it not yet worn away.

    The scary part is that if we succeed in making machines “think” (or learn) for themselves, we are all doomed. Who are the original teachers? Humans. I see no evidence anywhere suggesting modern humans capable of error-free thought, anything less than corrupt, imminently fallible logic. An imperfect machine will create something that can be perfect?

    No. As humans looking to depend on machines we are doomed. As machines “learn” to think as marvelously as humans, machines are doomed.

    Le gusta a 1 persona

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Crea tu sitio web con WordPress.com
Primeros pasos
A %d blogueros les gusta esto: