Fabio Morandín-Ahuerma

La repetición y la superposición innecesaria de principios éticos similares para el desarrollo de una inteligencia artificial responsable no solo entran en conflicto, sino que esta confusión y ambigüedad pueden llegar, incluso, a resultar peligrosas si los postulados son un mero “lavado de cara” y las verdaderas intenciones se esconden detrás de intereses mezquinos. Esto aplica tanto a particulares, a empresas, como a gobiernos. El proceso de establecer leyes, normas, estándares y mejores prácticas para asegurar que la IA sea benéfica para toda la sociedad es un llamado urgente para un “mejor futuro de la humanidad”. De todo lo anterior, surge este intento por traducir en solo seis principios fundamentales el cúmulo de literatura que hasta ahora se tiene y, posteriormente, defender tres máximas que podrían sintetizar no solo los principios esbozados en este libro, sino los marcos normativos vigentes con aspiraciones universalistas: responsabilidad, transparencia, seguridad, no discriminación, privacidad y sostenibilidad; y como máximas clásicas de la ética: honradez, intencionalidad y conciencia moral.

Las normas nacionales y el campo de batalla tecnológico, industrial, económico e incluso militar de las aplicaciones de la inteligencia artificial se enfrentarán significativamente entre las potencias mundiales a medida que avance la carrera por la supremacía geopolítica estratégica. China y Estados Unidos están considerados como las dos naciones punteras en I+D (investigación y desarrollo). Estados Unidos alberga algunas de las principales empresas e instituciones de IA, y cuenta con un sólido historial de innovación y espíritu emprendedor en el sector tecnológico. China, por su parte, ha avanzado considerablemente en I+D gracias a la financiación pública, a un gran número de jóvenes investigadores y al espíritu de competencia del Partido Comunista Chino. Rusia, por su parte, con un liderazgo pragmático y demencial, avanza en IA a paso firme y sin mayores reservas. Cada uno de los tres países ha publicado su normativa ética para la IA y, como objetivo de este capítulo, se presenta un análisis ponderado de cada uno.

En este capítulo se analizan las propuestas éticas para el desarrollo digital y empresarial de cuatro grandes corporativos internacionales: Microsoft, Google (Alphabet), Facebook (Meta) y Apple. Se ponderan cada uno de sus compromisos publicados en sus plataformas respectivas o las políticas compartidas por sus direcciones ejecutivas. Si bien cada una de las megaempresas, al menos en el papel, presume una serie de valores incuestionables por su integridad, también es cierto que la mayoría ha tenido que enfrentar crisis por la carencia precisamente de algunos de los principios por ellos mismos proclamados. También es cierto que no puede hacerse generalizaciones precipitadas, por eso aquí se comparte primero, objetivamente, lo que proponen y, siendo autorregulatorias, se discute hasta qué punto han cumplido sus propias aspiraciones éticas.

“Diseño alineado éticamente: una visión para priorizar el bienestar humano con sistemas autónomos e inteligentes, primera edición” fue redactado bajo la “Iniciativa global sobre ética de los sistemas autónomos e inteligentes” y es un documento que pretende ofrecer un marco para las consideraciones éticas en el diseño, desarrollo, despliegue y uso de los sistemas de IA, con el objetivo de garantizar que las tecnologías digitales ayuden a las personas en sus labores. El Diseño consta de ocho principios: derechos humanos, bienestar, agencia de datos, eficacia, transparencia, rendición de cuentas, conciencia de uso indebido y competencia. Algunas de las observaciones a la iniciativa son que podría estar influida por los beneficios de la industria, y no represente las perspectivas e intereses de las comunidades digitalmente marginadas. A pesar de estas críticas, el documento del IEEE sigue siendo influyente en el campo de la ética y la gobernanza de la IA, y ha desempeñado un papel importante en la configuración del debate mundial en torno al desarrollo y despliegue responsables de la tecnología. También se analiza que el Instituto ha lanzado el “IEEE 7000™-2021, proceso de modelo estándar IEEE para abordar preocupaciones éticas durante el diseño del sistema” con el que sienta el precedente más objetivo de una ética de la IA aplicable.

La PAI es la “Asociación sobre inteligencia artificial en beneficio de las personas y la sociedad” (Partnership on AI to Benefit People and Society) y es una organización sin fines de lucro con sede en San Francisco, California, que reúne a organizaciones académicas, de la sociedad civil, a empresas tecnológicas y de los medios de comu- nicación para abordar cuestiones sustanciales, básicamente sobre el futuro de la IA, pero también otros importantes retos mundiales como el cambio climático, la alimentación, la desigualdad, la salud y la educación. Tienen cinco programas que contribuyen al desarrollo de recursos, recomendaciones y mejores prácticas para la IA: inteligencia artificial e integridad mediática; IA, trabajo y economía; justicia, transparencia y responsabilidad en aprendizaje automático (ML); investigación y diseño inclusivos; y seguridad para la IA crítica. En este capítulo se destaca que, si bien PAI ha sido criticada por estar dominada en gran medida por grandes empresas tecnológicas, lo que podría limitar su autonomía y autocrítica, es una organización valiosa e influyente en el campo de la ética y la gobernanza de la IA, y desempeña un papel importante en la promoción del desarrollo y el despliegue responsables, no solo de la IA, sino de la tecnología y los medios de comunicación en general.

La “Recomendación del Consejo de la OCDE sobre inteligencia artificial” es un conjunto de directrices y principios para el desarrollo y despliegue de sistemas de IA alineados con los valores y derechos humanos, la transparencia y la rendición de cuentas. Fue adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) en mayo de 2019 e incluye cinco principios clave para la gobernanza de la IA. Ésta debe beneficiar a las personas y al planeta impul- sando el crecimiento inclusivo, el desarrollo sostenible y el bienestar; los sistemas de IA deben respetar el estado de derecho, los derechos humanos, los valores democráticos y la diversidad; también deben ser transparentes para garantizar que las personas comprendan los resultados y puedan cuestionarlos; los sistemas deben ser sólidos, seguros y protegidos durante todo su ciclo de vida; y las partes interesadas deben colaborar para maximizar los beneficios de la IA y minimizar sus riesgos. Se concluye aquí que los Principios de IA de la OCDE han sido criticados por no ser vinculantes y carecer de un mecanismo formal de aplicación. Tampoco abordan preocupaciones sociales amplias, como el desplazamiento de puestos de trabajo y la concentración de poder en unas pocas empresas. Además, es posible que los principios no tengan en cuenta los retos a los que se enfrentan los países en desarrollo y estén demasiado centrados en los intereses de las economías avanzadas. Sin embargo, la Recomendación de la OCDE establece una serie de principios ampliamente aceptados y respaldados tanto por los miembros, como por los que no lo son. Entre los valores figuran la transparencia, la solidez, la seguridad, la responsabilidad, la justicia, la equidad y la determinación humana. Este conjunto compartido de principios proporciona una base sólida para el desarrollo responsable de la IA, más allá de las fronteras de los “países ricos”.

La “Recomendación sobre la ética de la inteligencia artificial” es un documento elaborado por el Grupo especial de expertos (GEE) y adoptado por la UNESCO en noviembre de 2021. El documento presta especial atención a las implicaciones éticas de los sistemas de IA en relación con la cultura, la educación, la ciencia, la información y la comunicación. El documento pretende orientar a los responsables políticos y a las partes interesadas sobre cómo garantizar que la IA se desarrolle y utilice de forma ética. Se subraya aquí su visión de futuro y el desafortunado hecho de que no todos los países son parte del acuerdo internacional y, por tanto, no se sienten obligados a seguir estas directrices, por no ser incluidos o autoexcluirse. Se concluye que sienta las bases para futuros instrumentos normativos que puedan contribuir a su aplicación y que se den los pasos necesarios para garantizar que la ética se lleve a la práctica. Se espera que el instrumento ayude a las naciones y a las empresas a mejorar sus marcos reglamentarios éticos basándose en una visión universalista.

El “Foro de Montreal sobre el desarrollo socialmente responsable de la inteligencia artificial” fue una conferencia que inició en noviembre de 2017, donde más de 400 participantes de diversos sectores y disciplinas discutieron las implicaciones éticas y sociales de la IA. La conferencia también condujo a la creación de la “Declaración de Montreal para un desarrollo responsable de la inteligencia artificial” que se dio a conocer a finales de 2018 con más de 500 signatarios. La declaración describe 10 principios y 59 recomendaciones para guiar el desarrollo de la IA de manera que respete la dignidad humana, la autonomía, la justicia y la democracia. Los principios de la ética de la IA de Montreal también han sido criticados. Por ejemplo, se argumenta que no cubre el posible uso malicioso de la IA para actividades como la guerra, la vigilancia o la propaganda personalizada, y no ofrecen orientaciones ni mecanismos específicos para su aplicación y cumplimiento. De cualquier modo, se considera un importante paso en el desarrollo de la ética de la IA y ha sido amplia- mente reconocida por su enfoque global e integrador, y como punto de referencia para los esfuerzos posteriores.

La “Conferencia de Asilomar, California sobre IA beneficiosa” fue una conferencia organizada por el Instituto del futuro de la vida (Future of Life Institute) en enero de 2017, donde más de cien expertos e investigadores se reunieron para discutir y formular principios para una IA ética. Los veintitrés principios están divididos en temas o preguntas de investigación (cinco); temas concernientes a la ética y valores (cinco) y, problemas a largo plazo (cinco). En este capítulo se abordan cada uno de los principios, se explicitan y, finalmente, se analiza y discute su viabilidad y vigencia. Se concluye que el movimiento ha recibido tanto aclamaciones como críticas. Mientras que algunos han elogiado los principios como un valioso punto de referencia para los debates sobre la ética de la IA, otros han expresado su preocupación de que carecen de orientación específica sobre cómo aplicarlos en la práctica. Se plantea la pregunta de si estos principios son suficientes para abordar los complejos retos éticos que surgen con la inteligencia artificial. La respuesta es que, aunque podrían no ser suficientes por sí solos, son necesarios para iniciar y dar forma a este debate.

El objetivo de este capítulo es analizar el fenómeno de la neuroplasticidad como un factor determinante en el desarrollo integral del ser humano, tanto por factores físicos-biológicos como por factores psíquicos e incluso adaptativo- sociales. Se argumenta que entender la neuroplasticidad del cerebro y del sistema nervioso en su conjunto es la llave para fomentar prácticas educativas inteligentes dirigidas al aprendizaje como un proceso que puede ser modelado a favor del educando. La educación en general es el elemento potenciador cognitivo que genera neuroplasticidad positiva a un nivel de transformación extendida, productiva y constante.

Se analiza la relación entre factores emocionales y racionales en el proceso de toma de decisiones morales. Sin embargo, se basa principalmente en el análisis y generalización de los principales estudios empíricos sobre el tema, cada uno de los cuales, a su vez, utiliza los métodos de las ciencias, especialmente de las neurociencias. Se destaca el hecho de que el proceso de toma de decisiones morales no puede describirse mediante un modelo simple que se base en un factor emocional o racional, y se sostiene que la toma de decisiones morales se caracteriza por diferentes tipos de interacción entre las emociones y el razonamiento racional. La influencia de los factores emocionales y racionales en una decisión moral no es lineal: la decisión no es proporcional a las emociones o consideraciones que la preceden o están determinadas únicamente por ellas.

En este capítulo se ofrece una descripción general de las teorías actuales de la elección moral creadas en el marco de la neurofisiología y la filosofía. Se hace una comparación de las tres principales posturas en los estudios interdisciplinarios del conocimiento moral. Estas direcciones respectivamente sugieren una visión del sujeto de la elección moral como un ser racional limitado. Se sigue, en primer lugar, el principio de maximizar los beneficios o un conjunto de probabilidades; y, en segundo lugar, se enfatiza el papel esencial de los factores emocionales en el proceso de tomar una decisión moral. Se observa que en los últimos años nacen modelos teóricos que conceden especial importancia a los procesos afectivos y a la teoría dual de la toma de decisiones que son prioritarios en los estudios psicológicos y neurofisiológicos relacionados. También se analizan las ventajas y desventajas de la práctica de utilizar dilemas en estudios empíricos sobre la moral, y se argumenta que, a pesar de la posible falta de realismo experimental, el uso de los dilemas morales, como un método controlado, posibilita un abordaje más amplio; contribuyendo a la construcción de un campo de conocimiento interdisciplinario de suma utilidad. Se hace énfasis en que la red de estructuras cerebrales involucradas en la elección moral coincide, en gran medida, con las estructuras asociadas con el funcionamiento de la empatía.

En este capítulo se analiza la relación entre factores emocionales y racionales en el proceso de toma de decisiones morales. Sin embargo, se basa principalmente en el análisis y generalización de los principales estudios empíricos sobre el tema, cada uno de los cuales, a su vez, utiliza los métodos de las ciencias, especialmente de las neurociencias. Se destaca el hecho de que el proceso de toma de decisiones morales no puede describirse mediante un modelo simple que se base en un factor emocional o racional, y se sostiene que la toma de decisiones morales se caracteriza por diferentes tipos de interacción entre las emociones y el razonamiento racional. La influencia de los factores emocionales y racionales en una decisión moral no es lineal: la decisión no es proporcional a las emociones o consideraciones que la preceden o están determinadas únicamente por ellas.

En este capítulo se ofrece una descripción general de las teorías actuales de la elección moral creadas en el marco de la neurofisiología y la filosofía. Se hace una comparación de las tres principales posturas en los estudios interdisciplinarios del conocimiento moral. Estas direcciones respectivamente sugieren una visión del sujeto de la elección moral como un ser racional limitado. Se sigue, en primer lugar, el principio de maximizar los beneficios o un conjunto de probabilidades; y, en segundo lugar, se enfatiza el papel esencial de los factores emocionales en el proceso de tomar una decisión moral. Se observa que en los últimos años nacen modelos teóricos que conceden especial importancia a los procesos afectivos y a la teoría dual de la toma de decisiones que son prioritarios en los estudios psicológicos y neurofisiológicos relacionados. También se analizan las ventajas y desventajas de la práctica de utilizar dilemas en estudios empíricos sobre la moral, y se argumenta que, a pesar de la posible falta de realismo experimental, el uso de los dilemas morales, como un método controlado, posibilita un abordaje más amplio; contribuyendo a la construcción de un campo de conocimiento interdisciplinario de suma utilidad. Se hace énfasis en que la red de estructuras cerebrales involucradas en la elección moral coincide, en gran medida, con las estructuras asociadas con el funcionamiento de la empatía.

Los autores consideran que la denominada “alfabetización en ciencia” debe estar dirigida a la construcción del pensamiento racional, crítico y creativo en los alumnos; también en el desarrollo de aquellas habilidades docentes necesarias para tener una visión proactiva hacia la ciencia; proponen desarrollar investigación, experimentación y divulgación para que el profesor sea un modelo de información confiable que inspire a que los alumnos a que inicien sus propios proyectos experimentales. Educación integral, afirman, es el cultivo del pensamiento crítico, racional y objetivo como cosmovisión del mundo.

En este artículo se debaten tres aspectos del concepto de la moral: el primero se refiere a la puesta en duda de la existencia misma, no sólo del concepto sino de la posible o imposible fundamentación de lo moral per se. En segundo lugar, la positivización del término llevado a lo normativo como una búsqueda de objetividad de lo moral y, el tercer aspecto, la crítica a la moral imperativa desde posturas dogmáticas. Se defiende que no es suficiente la perfectibilidad de las leyes desde un punto de vista de la moralidad, sino que existe lo que podríamos llamar un fundamento personal, y al mismo tiempo, colectivo de comprensión del Derecho; entendido como el bienestar individual y colectivo para la realización de una vida plena en la polis. La moralidad, por tanto, si bien no es posible definirla en modo explicativo, racional, necesita de una base en valores compartidos con aspiraciones objetivistas y, al mismo tiempo, universalistas.

Resumen: La inteligencia artificial (IA) es la capacidad de una máquina o sistema informático para simular y realizar tareas que normalmente requerirían inteligencia humana, como el razonamiento lógico, el aprendizaje y la resolución de problemas. La inteligencia artificial se basa en el uso de algoritmos y tecnologías de aprendizaje automático para dar a las máquinas la capacidad de aplicar ciertas habilidades cognitivas y realizar tareas por sí mismas de manera autónoma o semiautónoma. La inteligencia artificial se distingue por su grado de capacidad cognitiva o por su grado de autonomía. Por capacidad puede ser débil o limitada, general o superlativa. Por su autonomía, puede ser reactiva, deliberativa, cognitiva o totalmente autónoma. A medida que la inteligencia artificial mejora, muchos procesos son cada vez más eficientes y, tareas que hoy parecen complicadas se estarán realizando con mayor rapidez y precisión.

En México y en otros países, eufemísticamente llama-dos "en desarrollo", los sistemas públicos de atención a la salud enfrentan continuos recortes presupuestales, lo que impacta negativamente a los recursos materiales y a la disminución de plazas para los egresados de las carreras de medicina, esto es, menos contratos de médicos de base en hospitales, clínicas y centros de salud. Bajo este panorama adverso, algunos administradores, desarrolladores de software y no pocos políticos preclaros, suponen que la salida a los problemas económicos estará en el uso intensivo de la inteligencia artificial (en adelante IA) y la robótica. Una vez que los algoritmos sean adecuadamente entrenados, un ejército de robots doctores serán capaces de hacer valoraciones más precisas, diagnósticos 100% acertados, y prescripciones farmacológicas exactas; mucho mejor que los médicos humanos. Además, la IA no se cansa, no protesta, no se sindicaliza… ¿Realidad o ficción? En países como China y el Reino Unido ya se utilizan técnicas computacionales para la interpretación de imágenes de rayos X, detección de tumores, prótesis inteligentes e incluso IA para predecir los resultados de un ataque cerebrovascular isquémico. En México se incorporó a RoomieBot, un robot que sirve para el diagnóstico de pacientes con posible coronavirus. La cirugía robótica Da Vinci es buen ejemplo de cómo la IA puede trabajar colaborativamente con la o el cirujano en el quirófano. Sin embargo, aún quedan por resolver grandes desafíos antes de preocuparse por el llamado desempleo tecnológico de los egresados. Si bien la IA es una valiosa herramienta, en estricto sentido, en esta y en otras muchas áreas su autonomía total es todavía una quimera, por ejemplo: los vehículos autónomos pueden ser engañados y hackeados, y no existe aún un robot que pueda hacer un simple nudo a las correas de sus zapatos sin asistencia 2. Por otra parte, se requiere un marco normativo-todavía inexistente-para la aplicación universal de IA en los cuidados de la salud. Los principios de la bioética están claramente establecidos: la beneficencia, la no maleficencia, la autonomía y la justicia, así como el Juramento Hipocrático. No es así para IA, donde los países interesados no llegan al consenso de los principios morales básicos de la medicina que debería extrapolar 3. Hasta que no se solucionen los problemas técnicos, tecnológicos y, sobre todo, los dilemas éticos, la IA deberá continuar como la útil herramienta que es para la medicina; sin embargo, sustituir el valor intrínseco kantiano de la persona es algo que, seguramente, tendremos mucho tiempo para reflexionar y, acaso, algún día resolver de manera satisfactoria.

El trabajo" Estudio y propuesta para una política pública integral en apoyo de los migrantes" es una guía e informe de las políticas públicas que se aplican actualmente en nuestro país, tanto por el Gobierno Federal como en las Entidades Federativas. Así mismo, propone algunas directrices para la aplicación de una política conjunta que permita apoyar de manera coordinada los servicios que los migrantes mexicanos y sus familiares necesitan. Esta investigación no hubiese sido posible sin el financiamiento de la Secretaría de Desarrollo Social en México (SEDESOL), a través del Instituto Nacional de Desarrollo Social (INDESOL) y el Programa de Coinversión Social en su Vertiente de Investigación.

El objetivo de este apartado es identificar los fundamentos conceptuales y los objetivos principales de la neuroeducación con una visión de la neurociencia cognitiva, que considere cada etapa involucrada en el proceso de enseñanza- aprendizaje desde una panorámica multidisciplinar. Se argumenta que la neuroeducación es un campo de pensamiento complejo, que requiere del diálogo, pero sobre todo del consenso entre las diversas disciplinas involucradas para lograr avances significativos, objetivos concretos y aplicaciones innovadoras para una educación basada en evidencias.

Se analiza en este capítulo la relación entre factores emocionales y racionales en el proceso de toma de decisiones morales. Sin embargo, se basa principalmente en el análisis y generalización de los principales estudios empíricos sobre el tema, cada uno de los cuales, a su vez, utiliza los métodos de las ciencias, especialmente de las neurociencias. Se destaca el hecho de que el proceso de toma de decisiones morales no puede describirse mediante un modelo simple que se base en un factor emocional o racional, y se sostiene que la toma de decisiones morales se caracteriza por diferentes tipos de interacción entre las emociones y el razonamiento racional. La influencia de los factores emocionales y racionales en una decisión moral no es lineal: la decisión no es proporcional a las emociones o consideraciones que la preceden o están determinadas únicamente por ellas.

Los autores presentan los resultados de un estudio con la participación de 445 estudiantes, titulado: «La adquisición del inglés por medio de las clases en línea en estudiantes de nivel superior del Complejo Regional Nororiental durante la pandemia de COVID-19»; en él, entre otras conclusiones, proponen dinamizar la práctica digital y flexibilizar los métodos de evaluación, puesto que la 25 Introducción interacción social en el aprendizaje de una lengua extranjera es imperativa para motivar a los estudiantes.

Los procesos de globalización constituyen un vasallaje cultural para la identidad regional de los pueblos originarios, por ello, aun cuando la identidad sea un concepto polisémico, ciertas actividades son necesarias para mantenerla o, incluso, acrecentarla. Los idiomas autóctonos, la preservación de su cosmovisión, sus tradiciones y la defensa de su patrimonio biocultural pueden ser elementos constitutivos de identidad, no para un aislamiento de los pueblos, sino para la construcción de una visión glocal.

En el presente ensayo se analiza sucintamente el origen de la palabra bíblica [συνείδησις — syneidēsis] conciencia y la posible relación filológica con el término [συντήρησιν — syntêrêsin] sindéresis. Posteriormente se aborda el concepto de la conciencia y la sindéresis haciendo una diferenciación en el voluntarismo de san Buenaventura y el intelectualismo de santo Tomás de Aquino. Uno ambos conceptos en el término vocātiō y concluyo que la conciencia es mucho más que un super-yo freudiano sino que tiene profundas implicaciones en la búsqueda y construcción del ser del hombre, socorrido por el vínculo con la ley natural e incluso con la ley eterna que se establece indisolublemente a través de la sindéresis.