Construyendo una comprensión social de la IA . Profesora Helen Margetts
El profesor de Sociedad e Internet en el Oxford Internet Institute (OII) comenzó una carrera temprana en informática en computadoras centrales que hablaban COBOL, un lenguaje informático.
Con cada generación sucesiva de tecnología digital, incluida la más reciente de tecnologías basadas en datos como la IA, ha visto (e investigado) el lado positivo de cómo estas tecnologías podrían ayudar al gobierno, la sociedad y la democracia.
La profesora Margetts tiene una visión a largo plazo del impacto de la IA.
De hecho, hace cinco años creó el Programa de Políticas Públicas de Turing para ayudar al gobierno a maximizar los posibles beneficios de estas tecnologías basadas en datos.
Su equipo de investigadores, que ahora cuenta con 55 miembros, también se centra en cómo innovar con la IA de forma ética y responsable, creando marcos que integren principios de justicia, responsabilidad y transparencia en el desarrollo y la implementación de la IA.
Aunque este trabajo analiza las oportunidades y los riesgos bien documentados de la IA, tiene una visión sombría del enfoque actual en algunos sectores, incluidos Silicon Valley y los líderes políticos del Reino Unido, sobre el "riesgo existencial" de la IA.
Ella pone los ojos en blanco: "Los defensores de estos puntos de vista tienden a concentrarse en posibles riesgos para generaciones futuras".
"Es importante investigar los riesgos a largo plazo, las innovaciones tecnológicas siempre deben ir acompañadas de previsión y exploración del horizonte, y el Reino Unido como país ha sido bueno en eso".
"Sin embargo, la IA plantea muchos riesgos inmediatos, de los que debemos protegernos".
Ella continúa. "Necesitamos marcos para una innovación ética y responsable que se basen en principios acordados, necesitamos respuestas regulatorias para mantener seguros a los ciudadanos de hoy y, en términos más generales, tener más éxito en la integración de la tecnología en la sociedad".
"Creo que Alan Turing tenía razón cuando dijo: ' Sólo podemos ver una corta distancia hacia adelante, pero podemos ver mucho por hacer allí'. '
Uno de los riesgos clave de la última generación de IA, admite, es el potencial de potenciar los daños en línea .
«Las interfaces comercializadas para modelos de lenguajes grandes (LLM), por ejemplo, podrían provocar un tsunami de desinformación perniciosa o teorías de conspiración, o abusos selectivos y fraudes financieros de gran éxito. Necesitamos estar investigando eso”.
"Necesitamos conocimientos técnicos para adelantarnos a estos acontecimientos y diseñar contraintervenciones".
'Y necesitamos desarrollar una comprensión social de cómo los ciudadanos experimentan la IA; ¿Qué metodologías nos permiten comprender sus esperanzas, preocupaciones y temores sobre la IA y alimentarlos en la forma en que implementamos y desarrollamos estas tecnologías?
"Necesitamos comprender cómo las desigualdades digitales alimentan la igualdad per se: cómo estas tecnologías pueden crear circuitos de retroalimentación entre ciudadanos y gobiernos para mejorar el gobierno".
'¿Cómo las diferentes aplicaciones afectan a diferentes personas? ¿Qué personalidades tienden a sentirse atraídas por el pensamiento conspirativo, por ejemplo?'
"Todo eso requiere comprensión de las disciplinas de las ciencias sociales, las ciencias políticas, la economía, la psicología, la sociología, etc.".
A la profesora Margetts le preocupa que exista una tendencia a culpar a la tecnología por las cosas que revela sobre la sociedad.
'El funcionamiento sesgado de la IA, cuando se utiliza en solicitudes de contratación o préstamos o en la justicia penal, por ejemplo, es un peligro muy real y presente del uso de la IA en la toma de decisiones. Pero estos prejuicios a menudo reflejan (y peor aún, refuerzan) prejuicios humanos ancestrales.'
Y añade: 'Pero todos somos parciales. Nos resulta realmente difícil no ser parciales.'
"Cualquiera que haya realizado un entrenamiento sobre prejuicios inconscientes sabe que siempre se encuentra con sorpresas sobre hasta qué punto tiene prejuicios, por mucho que no pretenda serlo".
Pero ¿qué pasa con los errores cometidos por la IA? ¿Puertas de control fronterizo o dispositivos médicos que se ha demostrado que discriminan por motivos étnicos? La profesora Margetts continúa:
'El sesgo puede provenir de múltiples fuentes. Por ejemplo, puede provenir de algoritmos de aprendizaje automático entrenados con datos relacionados con decisiones humanas del pasado, que estaban sesgados, o de datos integrados con correlaciones resultantes de múltiples sesgos experimentados por ciertos grupos.'
La profesora Margetts analiza cómo la IA podría ayudar a exponer algunos de los sesgos de nuestras instituciones democráticas.
"El sesgo también puede provenir de los diseñadores y desarrolladores de IA, que tienden a provenir de un grupo demográfico limitado y pensar de una manera determinada", explica la profesora Margetts .
"Ambos prejuicios fueron un problema en los primeros días de la tecnología de reconocimiento facial, que fue desarrollada y entrenada por personas que trabajaban en Silicon Valley, en su mayoría hombres blancos".
Pero, dice, "así lo han sido tradicionalmente muchas de las personas en los paneles de contratación, o en las profesiones de los sistemas de justicia penal, como jueces o policías".
'La cuestión es que el sesgo a menudo se origina en prejuicios o divisiones de larga data en la sociedad. Se tiende a negar préstamos a personas con ingresos precarios (y tal vez es más probable que esas personas pertenezcan a minorías étnicas). AI establece ese vínculo, aunque no sea causal.'
Un informe, del que es coautor la profesora Margetts, sobre los sentimientos sobre la IA en la población del Reino Unido
Siempre optimista, continúa: “La ventaja de las tecnologías basadas en datos, como la IA, es que los datos hacen explícitos estos sesgos, a veces por primera vez. Reconocer esto es un paso para poder mitigar el sesgo”.
"Podríamos terminar con organizaciones y procesos de toma de decisiones más justos que nunca".
La profesora Margetts es una científica social con una licenciatura en Matemáticas, una maestría en Política y un doctorado en gobierno de la London School of Economics and Political Science (LSE).
Tiene una larga trayectoria de investigación que se centra en la relación entre las computadoras, el gobierno y la democracia, más recientemente como Directora (2011-2018) del Oxford Internet Institute , un departamento multidisciplinario de la Universidad, y actualmente como Directora de Programa. de Políticas Públicas en el Instituto Alan Turing, el instituto nacional de Ciencia de Datos e Inteligencia Artificial .
Fue una de las primeras exponentes de la "carrera de cartera".
Después de graduarse en Matemáticas en la Universidad de Bristol (una de las pocas mujeres de su año) con una disertación en Filosofía de las Matemáticas, se convirtió en becaria de posgrado en ciencias de la computación para Rank Xerox.
La tecnología avanzaba rápidamente, incluso si las enormes computadoras centrales en las que aprendió a programar perduraron en el gobierno hasta la década de 1980 y más allá.
Se valoraba mucho a las personas que entendían de informática.
La profesora Margetts tomó Matemáticas, Física y Química a nivel A. Pero también tenía un gran interés por el inglés, la filosofía y la política .
Después de algunos años trabajando en informática en el sector privado, utilizó un "pago de fidelidad" de cuando su empresa se mudó del centro de Londres a Hangar Lane para financiar estudios de maestría en Política en la LSE.
"Quería escribir ensayos", recuerda simplemente. 'Cuando estaba en la escuela, había mucha presión para hacer algo 'útil'.
'Además, fui la primera de mi escuela (de niñas) en leer Matemáticas en la universidad, y la directora había dicho que no podría hacerlo. Entonces. Por supuesto, tanto mi madre como yo estábamos decididos a hacerlo.
Sin embargo, en la LSE combinó su interés por la política y el gobierno con su experiencia en matemáticas y tecnología.
Después de completar su maestría, realizó un doctorado a tiempo parcial, que investigó las computadoras en el gobierno central en Gran Bretaña y Estados Unidos, mientras trabajaba a tiempo completo como investigadora con el profesor de ciencias políticas Patrick Dunleavy en la LSE.
Su doctorado sobre sistemas informáticos en el gobierno de Gran Bretaña y Estados Unidos mostró hasta qué punto ambos gobiernos habían luchado por maximizar el potencial de estas tecnologías para mejorar la formulación de políticas públicas o los servicios públicos.
De la LSE, la profesora Margetts fue al Birkbeck College de la Universidad de Londres como profesora de política, creando la Maestría en Políticas y Gestión Públicas, y luego al University College de Londres para convertirse en la primera profesora de ciencias políticas, y pronto se convirtió en directora de la Escuela de Políticas Públicas. .
De allí, hace unos 17 años, llegó a Oxford para ocupar la cátedra de Sociedad e Internet en el recientemente fundado Oxford Internet Institute.
El Departamento se creó en 2001 como un departamento multidisciplinario para investigar y estudiar la relación entre tecnología y sociedad.
"Echaba de menos Londres", dice en un comentario típicamente honesto. "Pero pensé que Oxford era un lugar más agradable para que mi hijo creciera" .
Y se ha quedado, en parte porque, como lo demuestra su cuenta de X/Twitter, es un lugar agradable para vivir y pasear al perro, especialmente en las brumosas mañanas de Oxford en las orillas del río.
Pero también porque descubrió que su visión de la investigación en la frontera disciplinaria podría hacerse realidad en la OII, donde las disciplinas están representadas en todas las ciencias sociales y en las cuatro divisiones de la Universidad.
Disfrutó del dinámico ambiente académico y está orgullosa de las investigaciones de la OII.
"Creo apasionadamente que las ciencias sociales deberían estar presentes en el diseño, el desarrollo y la implementación de toda la tecnología, pero particularmente la IA, que las preguntas y los conocimientos de las ciencias sociales deberían informar, investigar y desarrollar".
"Por supuesto, hay muchas universidades con varias facultades, pero creo que el tipo de equilibrio que se consigue en Oxford es maravilloso", añade la profesora Margetts.
Como politóloga, está particularmente interesada en los posibles impactos del mundo digital en la democracia y actualmente está escribiendo un libro al respecto, inspirado en los numerosos trabajos actuales que predicen el fin de la democracia.
Ella dice: 'Ha habido muchos libros sobre el retroceso democrático o incluso el fin de la democracia, donde la tecnología está implicada. Primero fue Internet, luego las redes sociales y ahora la IA.
Charla informal con Stuart Russell y Helen Margetts: Vivir con inteligencia artificial
"La atención se centra en los impactos negativos de estas tecnologías, sin exponer los posibles desarrollos positivos y cómo estas tecnologías podrían incluso mejorar la democracia".
"Por ejemplo, se puede argumentar que las redes sociales han impulsado la acción colectiva y la movilización en torno a cuestiones políticas en todo el mundo, permitiendo que personas sin más recursos que un teléfono móvil luchen contra la injusticia".
Con décadas de experiencia y una clara comprensión tanto de los beneficios como de los límites de la tecnología, la profesora Margetts concluye: "Soy optimista en cuanto a que conseguir la tecnología adecuada podría ayudarnos a configurar un período de regeneración democrática".
'Si lo pensamos bien, la democracia es una idea radical y redistributiva, con sus características definitorias de control popular e igualdad política. En la era de la IA, debemos alimentar esa aspiración”.