Dr. José Arturo Berrones Santos

El Dr. José Arturo Berrones Santos es profesor investigador asociado a la Facultad de Ingeniería Mecánica y Eléctrica (FIME) y colaborador en la Facultad de Ciencias Físico Matemáticas (FCFM) de la Universidad Autónoma de Nuevo León (UANL). Recibió un Doctorado en Física por la Universidad Autónoma del Estado de Morelos realizando su investigación de tesis doctoral adscrito al Instituto de Ciencias Físicas de la Universidad Autónoma de México (UNAM). Tiene una estancia posdoctoral en Italia en la Universidad de Florencia, así como una estancia sabática en dicha institución y en la Universidad de Cambridge de Reino Unido. Entre sus intereses científicos están las interrelaciones entre física y computación para el entendimiento y optimización de sistemas complejos, ya sean naturales o tecnológicos. El Dr. Berrones-Santos cuenta con más de quince publicaciones indizadas, más de cinco desarrollos tecnológicos de impacto en la industria, cuatro tesis doctorales dirigidas y más de quince tesis de maestría dirigidas, habiendo una de ellas ganado el premio nacional a mejor tesis en el campo de la inteligencia artificial, otorgado por la Sociedad Mexicana de Inteligencia Artificial. Es miembro fundador del Cuerpo Académico en Inteligencia Computacional de la UANL.

Dr. Romeo Sánchez Nigenda

El Dr. Romeo Sánchez Nigenda es profesor investigador asociado a la Facultad de Ingeniería Mecánica y Eléctrica (FIME) de la Universidad Autónoma de Nuevo León (UANL). Recibió su grado en Ingeniería en Sistemas Computacionales por parte del Instituto Tecnológico de Tuxtla Gutiérrez en 1996. Su maestría y doctorado son en Ciencias Computacionales por parte de la Arizona State University en 2000 y 2005, respectivamente. Es miembro del Sistema Nacional de Investigadores (SNI) Nivel I, miembro del Posgrado en Ingeniería de Sistemas (PISIS) y es líder del cuerpo académico en Sistemas Inteligentes Aplicados de la UANL.

Redes sociales
Dra. Satu Elisa Schaeffer

La Dra. Satu Elisa Schaeffer es profesora asociada a la Facultad de Ingeniería Mecánica y Eléctrica (FIME) de la Universidad Autónoma de Nuevo León (UANL). Recibió D.Sc. (Tech.) in Computer Science and Engineering, Helsinki Graduate School in Computer Science and Engineering. Es miembro Nivel I del Sistema Nacional de Investigadores (SNI), y miembro del Grupo de Investigación de Inteligencia Computacional, donde analiza y diseña modelos estocásticos y aplicaciones de inteligencia artificial para la ingeniería de sistemas.

Redes sociales

Retos éticos en la inteligencia artificial

 05/feb/2021  Seminario PISIS-UANL 2021      Asistencia : 35

Introducción

Hoy en día la humanidad está inmersa en una revolución tecnológica sin precedentes. La creación de nuevos tipos de inteligencia requiere de un alto criterio moral de sus diseñadores. Los algoritmos deberían ser capaces de discernir y reconocer fallos cuando se centran en acciones con repercusiones sociales que antes realizaba un ser humano. En esta ocasión tuvimos la oportunidad de participar en un debate con la Dra. Elisa Schaeffer, el Dr. Romeo Sánchez y el Dr. Arturo Berrones sobre la inteligencia artificial y su relación con el desempleo, máquinas imperfectas, razonamiento con sesgos y sus aplicaciones específicas como la automatización y militar.

Resumen

Debido a la automatización de procesos a nivel industrial comenzó la incertidumbre del ser humano como recurso; es lógico pensar que la inteligencia artificial (IA) podría reemplazarlo. Por ello existe una preocupación en el cómo la humanidad afrontará el desempleo, ya que las máquinas suelen ser más eficientes, aunque carecen de empatía. Los ponentes coinciden en que los sistemas deberían ser pensados no para reemplazar a las personas, sino en apoyo a una mejor toma de decisiones; así mismo, la automatización debería de estar enfocada a mejorar las condiciones laborales para el personal aumentando su seguridad, comodidad y calidad del trabajo. Además, parece que el humano promedio ignora el impacto ambiental que conlleva utilizar la inteligencia artificial debido al uso de las granjas de servidores, las cuales tienen un alto consumo energético dejando como resultado una considerable huella de CO2.

Por otra parte, se haba de quiénes deberían ser considerados los responsables directos de implementar un sistema o algoritmo de inteligencia artificial; los ponentes están de acuerdo en que se deberían involucrar algoritmos, clientes, operadores y desarrolladores, ya que en caso de falla de los sistemas autónomos afectarán a las personas con las que tienen contacto. Además, señalan la importancia de la responsabilidad del científico al considerar no solo las ganancias económicas, sino también el impacto ambiental, social, y la calidad de los datos recabados (evitando sesgos raciales, étnicos, etc.).

Por último, se aborda el uso de la tecnología para la fabricación de armas inteligentes controladas por algoritmos de IA y las bajas humanas que puedan provocar. El riesgo aquí es que los prejuicios humanos pueden ser heredados de los datos a los sistemas, tomando decisiones de manera discriminatoria a ciertos sectores de la sociedad.

Algo importante durante el debate es que los participantes se muestran interesados en desarrollar una iniciativa de normas éticas de regulación del IA, en forma de proyecto para presentar a las autoridades que corresponda.

Conclusiones

La aplicación de la IA en la vida del ser humano tiene sus beneficios, sin embargo, es importante que los científicos y las academias tengan en cuenta las implicaciones éticas. Nuestro trabajo debe favorecer una sociedad igualitaria, cuidar el medio ambiente y estar alertas en el uso de nuestros conocimientos para no afectar negativamente a individuos, sociedad y medio ambiente, de ser así, tomar la decisión éticamente correcta de participar o no en un proyecto. Como miembros de la comunidad se nos exhorta a promover acciones que den a conocer la necesidad de establecer aspectos éticos en la inteligencia artificial.

Enlaces relevantes

Reseñas anteriores