Recursos Humanos

La razón del distanciamiento de la IA y las ciencias sociales

0
blake-wisz-xn5fbem9564-unsplash.jpg

Las investigaciones demuestran que la brecha entre estas disciplinas es cada vez mayor, lo que podría hacer más difícil hacer frente a los problemas sociales y éticos.

Por

Los investigadores de la inteligencia artificial (IA) están empleando algoritmos de aprendizaje automático para ayudar a realizar tareas tan diversas como conducir automóviles, diagnosticar enfermedades y seleccionar candidatos para puestos de trabajo. Estas aplicaciones suscitan una serie de nuevas y complejas consideraciones sociales y éticas.

En vista de estos acontecimientos, ¿cómo deberían los científicos sociales cambiar su manera de pensar sobre las personas, la economía y la sociedad? ¿Y cómo deberían los ingenieros que elaboran estos algoritmos encarar los dilemas sociales y éticos que plantean sus creaciones?

"Esta es una problemática a la que no podemos responder solo con soluciones técnicas", dice Dashun Wang, profesor titular de Gestión y Organizaciones de la Kellogg School of Management. "Son temas fundamentalmente interdisciplinarios”.

Para predecir el efecto que tendrá la automatización en el mercado laboral, los economistas sin duda necesitan entender en qué tareas las máquinas nos superan en habilidad. Por su parte, los programadores de software para diagnosticar tumores tal vez deberían conocer la opinión de los filósofos sobre los enigmas morales que suscita su tecnología. Y programadores y psicólogos tienen que colaborar para asegurarse de que los algoritmos para seleccionar candidatos a un puesto de trabajo no amplifiquen los prejuicios humanos.

Algunos investigadores han logrado salvar las barreras departamentales. Por ejemplo, el año pasado, un estudio pionero exploró cómo millones de personas en todo el mundo tomarían las difíciles decisiones a las que se enfrentan los vehículos autónomos (por ejemplo, ante la necesidad de elegir entre matar a un peatón o a un pasajero, ¿a quién dejarían con vida?). Los investigadores se proponen utilizar este estudio para velar porque las nuevas tecnologías reflejen valores universales.

Y sin embargo, en un nuevo estudio de Wang y sus colaboradores queda patente que el vínculo entre la inteligencia artificial y las ciencias sociales (y otros campos) con el tiempo se ha debilitado.

Los investigadores analizaron varias décadas de trabajos publicados en el campo de la IA, así como en las ciencias sociales, las humanidades, las ciencias naturales, la ingeniería y la medicina. Hallaron que, cada vez más, los informáticos tienden a abordar los problemas sociales ellos solos, sin tener debida cuenta de las conclusiones de los que los estudian. Por otro lado, los estudiosos de las ciencias sociales, las ciencias físicas y las humanidades parecen estar cada vez menos al tanto de los rápidos avances de la IA.

En conjunto, los resultados del estudio ponen de manifiesto la imperiosa necesidad de que los investigadores de las distintas disciplinas reanuden la colaboración entre sí, dice Wang.

"Justo cuando la IA está cobrando cada vez más importancia para todos los sectores de la sociedad, se está aislando cada vez más", dice Wang. "Urge cerrar esa brecha”.

La IA en la sociedad suscita nuevos problemas

La gente ha estado lidiando con las consecuencias sociales y filosóficas de la tecnología desde hace siglos, señala Wang. Un buen ejemplo, que data de 1823, es la novela Frankenstein. "La IA nació de este tipo de fascinación", dice. "Estaba profundamente arraigada en las ciencias sociales”.

Últimamente, los investigadores de la IA han comenzado a enfrentarse con los dilemas que crea esta tecnología en la vida real. Un ejemplo de ello ha sido el intento de Amazon de crear herramientas de aprendizaje automático para calificar a los candidatos a sus puestos de trabajo. El software utilizó los datos de los candidatos anteriores para pronosticar qué personas serían las más idóneas para la empresa, lo que suscitó un problema flagrante: como muchos de los candidatos anteriores habían sido hombres, el programa penalizaba a las candidatas en cuyo currículum vitae aparecían las palabras "de mujeres" o se citaba una universidad solo para mujeres como alma máter.

Donde exista un sesgo, la IA "lo magnificará", dice Wang. (Ya no se utiliza ese programa de Amazon). Wang quería averiguar con qué frecuencia los investigadores de la IA se interesan por la psicología, la filosofía, la economía y la ciencia política, disciplinas que podrían ayudarles a abordar los inevitables problemas éticos y sociales. Una prueba de este interés es que citen otras disciplinas en sus trabajos académicos. Para investigarlo, Wang colaboró con Morgan Frank, Manuel Cebrian e Iyad Rahwan del Massachusetts Institute of Technology.

El equipo aprovechó un nuevo conjunto de datos disponible del Microsoft Academic Graph (MAG), en el que se indexan trabajos de estudiosos. Además de citas de revistas tradicionales, los datos incluyen citas de actas de congresos, un abundante repositorio de hallazgos en materia de IA. A través de las citas, los datos también captan las relaciones entre los trabajos, es decir, cada vez que un estudio hace referencia a otro.

El exclusivo club de la IA

Wang y sus colaboradores examinaron los datos del MAG de 1950 hasta 2018. Constataron que, durante este período, el número de publicaciones en el campo de la IA y subcampos afines (como la visión por computadora y el procesamiento del lenguaje natural) experimentó un aumento exponencial, pasando de centenares a decenas de miles de trabajos al año. Estos son los campos donde hoy en día se hace la mayor parte de la investigación informática.

Para cuantificar las interacciones entre la IA y otras disciplinas, el equipo estableció una medida que permitió registrar la frecuencia con la que los estudios de un campo citaban a otro, teniendo en cuenta el número total de artículos publicados en el segundo campo.

Primero, el equipo analizó la frecuencia con la que se citan otros campos académicos en los estudios sobre la IA. Hallaron que, en la década de 1960, los investigadores de la IA citaban estudios de psicología con una frecuencia más de cinco veces mayor de la que cabría esperar si hubieran sacado los trabajos de un sombrero al azar para citarlos. Hoy en día, sin embargo, citan documentos de psicología con menos de la mitad de esa frecuencia.

Han disminuido drásticamente también las citas de obras de filosofía, economía y arte. Como era de esperar, los estudios sobre informática y matemáticas son los que más frecuentemente se citan hoy en día en los trabajos sobre la IA.

A continuación, los investigadores examinaron el problema inverso: ¿con qué frecuencia se citan en las demás disciplinas estudios sobre la IA, teniendo en cuenta el creciente número de trabajos que cada año se publican en ese campo? Aquí, la conclusión fue que campos como la psicología, la filosofía, los negocios, las ciencias políticas, la sociología y la economía se nutren cada vez menos de la investigación sobre la IA. Los psicólogos de los años sesenta, por ejemplo, citaban trabajos sobre IA cuatro veces más de lo que cabría esperar si hubieran escogido trabajos al azar. Hoy en día, sin embargo, citan la IA con menos frecuencia que si estuvieran seleccionando trabajos que citar completamente al azar.

La conclusión final: "La IA se vuelve cada vez más exclusivista", dice Wang.

Una posible explicación es la creciente dificultad para los científicos sociales de mantenerse al día de los rápidos avances de una investigación cada vez más compleja como es la IA.

Paradójicamente, la ola de interés por la IA también podría estar contribuyendo a su aislamiento. Hay una demanda tal por asistir a algunas conferencias sobre IA, que a los científicos sociales se les hace difícil entrar, según Morgan Frank, coautor de Wang. En un blog, Frank cita el ejemplo de una conferencia muy popular en la que "las inscripciones se agotaron en menos de 15 minutos, lo que hizo difícil que participaran los propios investigadores especializados en IA, para no hablar de los científicos de otras disciplinas".

¿Quién investiga la IA?

Otro factor es el cambio en los protagonistas que dominan hoy en día la investigación sobre la IA.

Los investigadores examinaron qué instituciones publican hoy en día los estudios más "resonantes" sobre IA, es decir, aquellos que con mayor frecuencia se citan en otros estudios, muy citados a su vez.

Los investigadores constataron que, si bien instituciones como MIT, Stanford y Carnegie Mellon alguna vez fueron los centros neurálgicos de la investigación sobre la IA, hoy por hoy las principales fuentes de estos estudios suelen ser empresas privadas tales como Google y Microsoft.

La razón puede ser que estas empresas poseen los recursos necesarios para adquirir una infraestructura que es costosa. "Esto no es un deporte barato", dice Wang.

"Se necesita una gran pila de unidades de procesamiento gráfico, así como mucho poder computacional y capacidad de almacenamiento”.

Esto puede ser uno de los motivos de la creciente desconexión entre la IA y las ciencias sociales. En su estudio, Wang y sus colaboradores hallaron que los investigadores en sociología, filosofía, ciencias políticas, negocios y economía son menos proclives a citar publicaciones producidas por el sector empresarial que por el académico. Esto significa que la concentración de la investigación de la IA en manos de la industria privada podría estar contribuyendo a la debilitación de la relación con las ciencias sociales.

Y una vez que toman la delantera, las grandes empresas tienen más posibilidades de seguir produciendo una parte desproporcionada de la investigación, por el fenómeno de que “la riqueza engendra la riqueza", dice Wang. Los equipos del sector industrial crean mejores sistemas, atraen a más usuarios y generan más datos, que utilizan para entrenar a sus sistemas para que sean aún más fiables. "Es un mecanismo de autorrefuerzo".

Colmar la brecha con la IA

Wang teme que, a pesar del rápido crecimiento de la IA, esta nueva tecnología no logre alcanzar todo su potencial si no incorpora mejor los conocimientos de las ciencias sociales y otros campos.

Para cerrar esta brecha, Wang recomienda que las universidades fomenten más colaboraciones entre el departamento de IA y los demás. Por ejemplo, la Northwestern University ha iniciado un programa llamado CS+X que conecta a los informáticos con investigadores en campos como la medicina, el periodismo, el derecho y la economía.

Algunas investigaciones ya dan ejemplo de cómo los expertos en IA pueden integrar eficazmente los hallazgos de otros campos. Por ejemplo, en el estudio que exploraba cómo programar los vehículos autónomos para que reflejen mejor la moralidad humana (coescrito por el colaborador de Wang y estudioso de la IA Iyad Rahwan) se tomaron en cuenta investigaciones sobre psicología, filosofía moral, economía, e incluso ciencia ficción. Pero el hecho es que estas bibliografías tan diversas son relativamente raras.

Y lo mismo que los informáticos harían bien en consultar con expertos de otras disciplinas, dice Wang, los científicos sociales ya no pueden permitirse el lujo de ignorar los avances de la IA. A medida que las máquinas transforman nuestra manera de trabajar, pensar y tomar decisiones, argumenta, es más crítico que nunca que los economistas, filósofos y psicólogos se mantengan al tanto de los últimos avances de la informática y viceversa.

"Es una calle de dos sentidos", dice Wang. "La IA tiene que prestar más atención a las ciencias sociales. Los científicos sociales tienen que prestar más atención a la IA".

**Previamente publicado en Kellogg Insight. Reproducido con la autorización de Kellogg School of Management**

FOTO: UNSPLASH.COM

En profundidad

Únase a la conversación