Bienvenido a mi Blog
¿Es posible programar una ética universal en la I.A.?
¿Es posible programar una ética universal en la inteligencia artificial?
Hoy, los canales de información son variados y amplios en sus contenidos. Las comunicaciones atraviesan fronteras, acercan culturas, introducen costumbres y, como consecuencia, también trasladan concepciones morales y éticas que en algunas sociedades serán discutidas, en otras rechazadas y en muchas simplemente adaptadas.
Esto me lleva a plantearme una dificultad que considero fundamental: ¿es posible programar una ética, o al menos una postura ética, en una inteligencia artificial destinada a ser utilizada prácticamente en todo el mundo?
No estamos hablando de una herramienta limitada a una determinada cultura o región. Estamos hablando de una tecnología que se incorpora progresivamente a sociedades con historias, religiones, legislaciones, costumbres y concepciones morales diferentes.
Y aquí aparece mi primera duda: ¿quién establece los principios éticos que debería respetar una inteligencia artificial? ¿Sus desarrolladores, los gobiernos, los organismos internacionales o las sociedades que finalmente la utilizan?
La primera dificultad: no existe una ética universalmente aceptada
La ética no es una estructura inmutable. Se construye a partir de la historia, la religión, las costumbres, las condiciones económicas, las relaciones sociales y las experiencias de cada comunidad.
Si observamos las sociedades occidentales, encontramos una fuerte tradición vinculada con los derechos individuales, la libertad de expresión, la autonomía personal y el pluralismo.
En otras sociedades de Asia oriental, encontramos tradiciones que otorgan mayor importancia a la armonía social, la responsabilidad colectiva, el respeto a la autoridad y la estabilidad comunitaria.
En las sociedades de tradición islámica, determinadas normas morales y jurídicas están relacionadas con principios religiosos que no necesariamente coinciden con las concepciones seculares occidentales.
Y en numerosas comunidades indígenas encontramos una relación con la tierra, el territorio, los antepasados y la comunidad que tiene una dimensión ética que no siempre encaja en los modelos individualistas.
Por supuesto, no pretendo afirmar que todos los habitantes de una región piensen de la misma manera. Dentro de cada sociedad existen diferencias, conflictos y transformaciones generacionales.
Pero precisamente allí encuentro el problema: si programamos una inteligencia artificial para respetar una determinada concepción moral, ¿qué sucede cuando esa concepción entra en contradicción con otra igualmente arraigada?
Además, debemos considerar que los valores que hoy aceptamos pueden cambiar con el tiempo. Lo que una generación considera normal, otra puede cuestionarlo profundamente.
Por eso me resulta difícil imaginar una ética universal que permanezca inalterable y que pueda aplicarse de la misma manera a toda la humanidad.
La segunda dificultad: programar una conducta no significa programar una ética
Aquí considero necesario establecer una diferencia.
Podemos programar una inteligencia artificial para que no discrimine, respete la privacidad, evite causar daños, reconozca determinados derechos fundamentales y se abstenga de ejecutar acciones ilegales.
Todo eso es técnicamente posible y constituye una parte necesaria de su desarrollo.
Sin embargo, una cosa es establecer reglas de comportamiento y otra muy distinta es conseguir que el sistema resuelva correctamente los conflictos que aparecen cuando dos principios éticos entran en contradicción.
Pensemos en algunos ejemplos.
Libertad de expresión frente a protección social.
Una persona solicita a una IA que publique información que considera necesaria para denunciar una injusticia. Sin embargo, esa publicación podría poner en peligro a otras personas.
¿Debe privilegiar la libertad de expresión o la prevención del daño?
Beneficio económico frente a responsabilidad ambiental.
Una empresa solicita a una IA que encuentre la manera de maximizar sus ganancias reduciendo costos de producción.
El sistema descubre que puede conseguirlo mediante un procedimiento legal, pero que contamina un río y perjudica a una población cercana.
Si su objetivo es exclusivamente maximizar beneficios, ¿por qué habría de detenerse?
Podemos indicarle que respete las normas ambientales, pero entonces aparece otra pregunta: ¿qué sucede cuando la legislación permite algo que una comunidad considera moralmente inaceptable?
Seguridad frente a privacidad.
Un gobierno solicita un sistema que identifique posibles amenazas mediante el análisis de comunicaciones y movimientos de la población.
El sistema podría contribuir a prevenir delitos, pero también permitir una vigilancia masiva.
¿Dónde establecemos el límite?
Estos ejemplos me llevan a pensar que no estamos ante un problema exclusivamente informático. Estamos ante decisiones que involucran derechos, responsabilidades y distribución del poder.
El problema más delicado: cuando la IA recibe un objetivo y decide los medios
Esta es, probablemente, la parte que más me interesa de toda esta cuestión.
Existe una diferencia considerable entre pedirle a una inteligencia artificial que analice una situación y permitirle que actúe para modificarla.
Podemos distinguir tres niveles:
Primer nivel: IA informativa.
Recibe una pregunta, analiza información y ofrece una respuesta. La decisión final queda en manos humanas.
Segundo nivel: IA operativa supervisada.
Recibe un objetivo, propone acciones y puede ejecutarlas, pero necesita autorizaciones humanas para determinadas decisiones.
Tercer nivel: IA con autonomía operativa.
Recibe un objetivo y selecciona los procedimientos, establece prioridades y ejecuta acciones sin consultar permanentemente a una persona.
Es precisamente en este último nivel donde encuentro uno de los mayores interrogantes.
Imaginemos que le damos una instrucción aparentemente sencilla: reducir al mínimo el consumo energético de una ciudad.
Una IA podría interpretar que debe apagar el alumbrado público, reducir la climatización de los hospitales, limitar el transporte o desconectar determinados servicios.
Desde el punto de vista matemático, podría estar cumpliendo su objetivo. Desde el punto de vista humano, podría estar provocando consecuencias inaceptables.
El algoritmo no necesariamente se equivocó en sus cálculos. El problema pudo estar en la definición del objetivo.
En el campo de la inteligencia artificial se estudia precisamente esta dificultad: la diferencia entre el objetivo que pretendemos conseguir y el que el sistema termina optimizando. Se habla de especificación del objetivo y de desalineación entre los objetivos de una máquina y los valores humanos.
Incluso podemos encontrarnos con procedimientos que sus propios diseñadores no habían previsto.
Por eso considero que una cuestión debería quedar muy clara:
Un objetivo legítimo no convierte automáticamente en legítimos todos los procedimientos utilizados para conseguirlo.
¿Quién decide qué ética debe tener una inteligencia artificial?
Esta pregunta me lleva a otro terreno, quizás todavía más complejo: el poder de quienes diseñan, financian y controlan estas tecnologías.
Una inteligencia artificial no aparece espontáneamente de la sociedad. Su comportamiento está condicionado por los datos con los que fue entrenada, los criterios utilizados para seleccionarlos, las reglas establecidas por sus desarrolladores, las restricciones impuestas por las empresas y las leyes de los países donde funciona.
Por lo tanto, cuando hablamos de una IA ética, también deberíamos preguntarnos quién establece esa ética y con qué legitimidad.
Imaginemos una inteligencia artificial desarrollada por una empresa estadounidense, utilizada por una institución china y posteriormente incorporada a un sistema de administración pública de un país latinoamericano.
¿Debería prevalecer la concepción ética de sus desarrolladores, la legislación del país que la utiliza o los valores de la población afectada por sus decisiones?
No es una pregunta menor.
Una tecnología que puede intervenir en la educación, la justicia, la economía, la seguridad y la información pública también puede terminar difundiendo determinadas concepciones del mundo.
Y esto no requiere necesariamente una intención ideológica. Puede suceder como consecuencia de las decisiones incorporadas en su diseño.
¿Es posible construir una ética para una IA de alcance universal?
No descarto esa posibilidad, pero creo que debemos diferenciar entre establecer principios compartidos y pretender imponer una ética universal completa.
Considero que podríamos avanzar hacia una estructura de tres niveles.
Principios fundamentales: dignidad humana, derechos fundamentales, protección de la vida y prohibición de determinadas formas de discriminación.
Contexto cultural y jurídico: reconocimiento de las diferencias culturales, sociales y legislativas, dentro de los límites de los derechos fundamentales.
Autonomía operativa: límites a las acciones que puede ejecutar, supervisión humana, posibilidad de detenerlas y responsabilidad por sus consecuencias.
Este modelo no eliminaría los desacuerdos, pero permitiría establecer un marco de funcionamiento sin imponer una única concepción moral para toda la humanidad.
Hay algo que considero indispensable: una IA no debería interpretar que recibir una orden equivale a recibir autorización moral ilimitada para cumplirla.
Si una persona le pide alcanzar un resultado, el sistema debería evaluar también los medios, los posibles daños, los derechos afectados y las consecuencias no previstas.
Y cuanto mayor sea su autonomía y el impacto de sus acciones, mayores deberían ser las exigencias de supervisión, trazabilidad y responsabilidad humana.
¿Podemos delegar también nuestra responsabilidad moral?
Aquí llego a lo que considero el verdadero problema de fondo.
Supongamos que dentro de algunos años una inteligencia artificial administra una red eléctrica, distribuye recursos sanitarios, controla sistemas de transporte o participa en decisiones militares.
Si debe elegir entre dos alternativas y ambas producen consecuencias negativas, alguien tendrá que haber establecido previamente los criterios de esa elección.
Pero si permitimos que el sistema modifique sus propios procedimientos para conseguir el objetivo, ¿hasta dónde estamos dispuestos a dejarlo decidir?
Y si ocurre un daño, ¿quién responde?
¿El programador que estableció las reglas? ¿La empresa que comercializó el sistema? ¿El organismo que lo incorporó? ¿La persona que le dio la orden? ¿O nadie, porque todos terminan atribuyendo la decisión al algoritmo?
Me preocupa especialmente esta última posibilidad: que la complejidad tecnológica termine convirtiéndose en una forma de diluir las responsabilidades humanas.
La autonomía técnica no elimina la responsabilidad humana. Sin embargo, puede hacer que resulte mucho más difícil identificar dónde reside esa responsabilidad.
Mi conclusión: ¿qué sociedad estamos construyendo?
No creo que el desafío consista en conseguir que una inteligencia artificial tenga una ética propia, como si pudiéramos enseñarle a una máquina a distinguir definitivamente el bien del mal.
Creo que el desafío consiste en construir sistemas capaces de operar dentro de sociedades que tienen valores diferentes, sin convertir esas diferencias en una justificación para vulnerar derechos fundamentales.
Pero tampoco deberíamos caer en la ingenuidad de pensar que una IA será neutral por el simple hecho de no tener emociones, religión o ideología propia.
La ausencia de sentimientos no equivale a neutralidad moral. La ausencia de convicciones personales tampoco equivale a objetividad.
Una IA puede reproducir prejuicios, priorizar intereses económicos, favorecer determinadas interpretaciones o ejecutar decisiones perjudiciales sin experimentar ninguna intención de hacerlo.
Y aquí me gustaría dejar planteados algunos interrogantes que considero necesarios para continuar esta discusión:
Esta última posibilidad abre una discusión que va más allá de la informática: podríamos terminar teniendo que negociar no solamente entre distintas culturas humanas, sino también entre sistemas tecnológicos que representan diferentes criterios de decisión.
Y quizás la cuestión más importante sea esta:
No deberíamos preguntarnos solamente qué ética vamos a enseñarles a las máquinas, sino qué sociedad estamos construyendo al permitir que las máquinas participen cada vez más en nuestras decisiones.
¿Quién debe establecer la ética de la inteligencia artificial: las sociedades o los gobiernos?
A partir de mis reflexiones anteriores sobre la dificultad de establecer una ética universal para la inteligencia artificial, quisiera introducir otra posibilidad que me parece interesante: ¿por qué no permitir que cada país establezca las condiciones culturales, sociales y jurídicas bajo las cuales pueden funcionar las inteligencias artificiales en su territorio?
Mi propuesta parte de una idea relativamente sencilla: si las sociedades tienen historias, costumbres, tradiciones, religiones y concepciones morales diferentes, ¿por qué deberíamos pretender que una única inteligencia artificial responda a todas ellas bajo los mismos criterios éticos?
No estoy planteando que cada país deba desarrollar necesariamente su propia inteligencia artificial, sino que sus autoridades puedan establecer las condiciones que deben cumplir los sistemas que se utilizan dentro de sus fronteras.
Esto podría entenderse como una extensión de la soberanía digital: la capacidad de una sociedad para decidir cómo incorpora, regula y utiliza tecnologías que pueden intervenir en prácticamente todos los aspectos de su vida.
La soberanía cultural como principio de regulación
Si observo esta posibilidad desde una perspectiva práctica, encuentro algunos argumentos que merecen consideración.
Las legislaciones nacionales no son idénticas. Las sociedades tienen diferentes tradiciones y sensibilidades culturales. Las consecuencias de determinadas aplicaciones tecnológicas pueden variar según el contexto social y los ciudadanos deberían contar con mecanismos para reclamar cuando una inteligencia artificial afecta sus derechos.
Por ejemplo, una IA utilizada en el sistema educativo de Japón, Argentina o Arabia Saudita podría necesitar adaptaciones diferentes en determinados contenidos, procedimientos y referencias culturales.
No necesariamente porque una sociedad sea moralmente superior a otra, sino porque sus instituciones, legislaciones y realidades sociales son distintas.
Entonces me pregunto: ¿no sería razonable que cada país pudiera establecer las condiciones bajo las cuales estas tecnologías participan en su educación, administración pública, justicia, economía y servicios sociales?
Considero que sí. Sin embargo, mi propuesta necesita una distinción importante.
No es lo mismo permitir que una sociedad establezca las condiciones culturales y jurídicas de utilización de una tecnología que permitir que un gobierno determine qué puede pensar, decir o conocer esa tecnología.
Son dos cuestiones muy diferentes.
¿Dónde aparece el peligro?
El problema comienza cuando pasamos de regular una tecnología a regular el pensamiento que esa tecnología puede expresar.
Imaginemos que un gobierno argentino establece que las inteligencias artificiales utilizadas en los organismos públicos deben respetar la legislación nacional, proteger los datos personales y reconocer los derechos constitucionales.
No encuentro en ello una dificultad particular.
Pero imaginemos que otro gobierno establece que las IA no pueden cuestionar sus decisiones económicas, sus políticas públicas o sus interpretaciones de la historia nacional.
En ese caso, ya no estaríamos hablando de adaptación cultural, sino de control político de la información.
Si traslado este razonamiento a China, encuentro que el Estado puede establecer condiciones de funcionamiento para las plataformas tecnológicas, pero también puede utilizar la regulación para restringir determinados contenidos políticos y controlar la circulación de información.
Si observo Arabia Saudita, una IA podría adaptarse a determinadas normas religiosas y culturales para prestar servicios locales. Sin embargo, ¿qué sucede cuando esas normas entran en tensión con derechos individuales reconocidos internacionalmente?
Esto me lleva a plantear una pregunta que considero fundamental:
¿Hasta dónde llega la legitimidad de una adaptación cultural y dónde comienza la imposición ideológica?
No creo que debamos confundir ambas cosas.
Una alternativa: regulación nacional, pero con garantías universales
A partir de estas consideraciones, introduciría una modificación a mi propuesta inicial.
No permitiría que cada gobierno estableciera libremente la ética de las inteligencias artificiales que operan en su territorio. Considero más razonable que pueda establecer un marco nacional de utilización, pero sujeto a garantías que también protejan a las personas frente al propio Estado.
Imagino una estructura que contemple distintos ámbitos:
El Estado nacional: debería establecer las condiciones de seguridad, privacidad, protección de datos, responsabilidad legal y utilización de estas tecnologías.
La sociedad y su cultura: deberían tener reconocimiento en las adaptaciones lingüísticas, las referencias culturales, las costumbres y las particularidades educativas.
Los derechos fundamentales: deberían proteger a las personas frente a la discriminación, la persecución, la vigilancia arbitraria y otras formas de vulneración de sus derechos.
Las empresas desarrolladoras: deberían ofrecer transparencia sobre el funcionamiento, las limitaciones, los criterios de decisión y las características de los sistemas que comercializan.
Los usuarios: deberían tener derecho a conocer cuándo interactúan con una IA, reclamar ante decisiones automatizadas y cuestionar sus resultados.
Hay una condición que considero esencial: las restricciones deberían ser públicas, justificadas, proporcionales y susceptibles de revisión judicial.
De lo contrario, cualquier gobierno podría presentar un mecanismo de censura como una simple adaptación cultural.
La dimensión geopolítica: ¿quién controla el conocimiento?
Hay otra cuestión que me preocupa y que considero inseparable de este debate.
Actualmente, una parte importante del desarrollo de la inteligencia artificial está concentrada en empresas y centros tecnológicos de determinados países.
Esto significa que los criterios incorporados en los modelos pueden reflejar, consciente o inconscientemente, las prioridades de sus desarrolladores y de los mercados en los que operan.
Entonces me pregunto:
¿Es razonable que una sociedad dependa de una tecnología extranjera para acceder al conocimiento, procesar información, educar a sus hijos o administrar servicios públicos, sin tener capacidad suficiente para establecer sus propias condiciones de funcionamiento?
Aquí encuentro una contradicción.
Por un lado, necesitamos tecnologías globales que faciliten el intercambio de conocimientos. Por otro, necesitamos evitar que esa globalización tecnológica termine convirtiéndose en una dependencia cultural, económica o política.
Y esto no se resuelve simplemente prohibiendo sistemas extranjeros.
También necesitamos desarrollar capacidades tecnológicas propias, investigación, infraestructura, formación profesional y alternativas locales.
De lo contrario, la soberanía digital puede terminar siendo solamente una declaración política, sin capacidad real para ejercerla.
Una última reflexión: ¿quién protege al ciudadano frente a su propio gobierno?
No quisiera terminar este análisis sin introducir una cuestión que considero especialmente delicada.
Si aceptamos que cada país pueda establecer las condiciones éticas y culturales de las inteligencias artificiales, también debemos preguntarnos quién controla a las autoridades que establecen esas condiciones.
¿Qué sucede cuando un gobierno utiliza la regulación tecnológica para proteger sus propios intereses?
¿Qué sucede cuando una IA tiene prohibido cuestionar determinadas decisiones oficiales, informar sobre determinados acontecimientos o presentar interpretaciones diferentes de la historia?
¿No estaríamos entonces sustituyendo la dependencia cultural de las empresas tecnológicas extranjeras por una dependencia informativa de nuestros propios gobiernos?
Esta posibilidad me parece suficientemente importante como para no dejarla de lado.
Por eso considero que la regulación nacional debería estar acompañada de garantías institucionales, controles independientes, libertad de investigación y protección del derecho de los ciudadanos a acceder a distintas fuentes de información.
Mi conclusión: soberanía tecnológica sin sometimiento intelectual
No descarto mi propuesta inicial. Por el contrario, creo que merece formar parte de la discusión sobre el futuro de la inteligencia artificial.
Pero introduciría una distinción que considero fundamental:
Una sociedad debería tener derecho a decidir cómo incorpora la inteligencia artificial a su cultura, sus instituciones y su legislación. Lo que no debería tener es un derecho ilimitado a utilizar esa regulación para determinar qué verdades pueden conocer sus ciudadanos o qué opiniones pueden expresar.
Porque si dejamos que cada gobierno defina qué es ético, corremos el riesgo de que la ética termine identificándose con los intereses de quienes ejercen el poder.
Y aquí aparece una paradoja: podríamos terminar construyendo inteligencias artificiales que no respondan a los valores de sus sociedades, sino a los valores de sus gobiernos.
Eso sería particularmente peligroso en países donde las instituciones democráticas son débiles o donde existe una fuerte concentración del poder.
Un escenario que me gustaría dejar planteado
Imaginemos que dentro de diez años existen tres grandes modelos de inteligencia artificial:
Los tres pueden responder preguntas científicas, económicas e históricas con una capacidad técnica semejante, pero discrepan en cuestiones sociales, políticas y morales.
¿Qué sucedería si cada uno considera que su propia interpretación ética es la correcta?
¿Podrían convivir estos modelos sin que sus diferencias terminen trasladándose a las relaciones entre los países que los desarrollaron?
¿Podría una inteligencia artificial reconocer que existen interpretaciones éticas diferentes sin considerar necesariamente que una de ellas debe imponerse sobre las demás?
Y llego a una última pregunta que me parece especialmente importante:
¿No sería conveniente que una inteligencia artificial pudiera exponer las distintas interpretaciones éticas de un problema, incluso aquellas que contradicen las normas culturales del país donde se utiliza, dejando que el ciudadano forme su propio criterio?
A mi entender, hay una diferencia enorme entre una IA que respeta la cultura de una sociedad y una IA que solamente reproduce aquello que las autoridades de esa sociedad consideran aceptable.
La primera puede contribuir al conocimiento. La segunda corre el riesgo de convertirse en un instrumento de conformidad social.
Por eso, más que buscar una inteligencia artificial que piense de acuerdo con una única ética, me interesa pensar en una tecnología capaz de reconocer las diferencias, exponer las contradicciones y proporcionar elementos para que las personas puedan formar sus propias convicciones.
La soberanía tecnológica debería servir para que una sociedad pueda decidir sobre su futuro, no para limitar su capacidad de pensar.