Vivir mejor con algoritmos |  Noticias del MIT

Vivir mejor con algoritmos | Noticias del MIT



La estudiante del Laboratorio de Sistemas de Información y Decisión (LIDS) Sarah Cen recuerda la conferencia que la llevó a una pregunta anterior.

En una charla sobre inteligencia artificial ética, el orador mencionó una variación del famoso problema del tranvía que describe una elección filosófica entre dos resultados indeseables.

Escenario del orador: Supongamos que un automóvil autónomo conduce por un callejón estrecho con una anciana a un lado y un niño pequeño al otro, y no hay forma de pasar sin una fatalidad entre los dos. ¿A quién debe atropellar el coche?

Entonces el locutor dijo: Demos un paso atrás. ¿Es esa la pregunta que deberíamos hacernos?

Luego hizo clic para Cen. En lugar de considerar la ubicación del impacto, un automóvil autónomo podría haber evitado elegir entre dos malos resultados al tomar una decisión antes: el vocero señaló que al ingresar al callejón, el automóvil podría haberse dado cuenta de que el espacio estaba apretado y el motor estaba reducido a una velocidad que llevaría a todos a un lugar seguro.

Reconociendo que los enfoques de seguridad de IA de hoy en día a menudo se asemejan al problema del tranvía y se centran en las regulaciones posteriores, como la responsabilidad cuando alguien no tiene una buena opción, Cen se preguntó: ¿qué pasaría si pudiéramos tener mejores salvaguardas aguas arriba y aguas abajo para tales problemas? Esta pregunta ha influido en gran parte del trabajo de Cen.

«Los sistemas de ingeniería no están separados de los sistemas sociales con los que interfieren», dice Cen. Si ignora este hecho, corre el riesgo de crear herramientas que no son útiles en la implementación o, lo que es más preocupante, maliciosas.

Cen llegó a LIDS en 2018 a través de un pequeño desvío. Probó por primera vez la investigación durante su licenciatura en la Universidad de Princeton, donde se especializó en ingeniería mecánica. Para su maestría, cambió de especialidad y trabajó en la Universidad de Oxford en soluciones de radar en robótica móvil (principalmente para autos sin conductor). Allí desarrolló un interés en los algoritmos de IA y sintió curiosidad por saber cuándo y por qué se comportan mal. Así que vino al MIT y al LIDS para obtener su doctorado, donde trabajó con el profesor Devavrat Shah en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación para obtener una base teórica más sólida en los sistemas de información.

Pruebas de algoritmos de redes sociales

Junto con Shah y otros colaboradores, Cen ha trabajado en una variedad de proyectos durante su tiempo en LIDS, muchos de los cuales están directamente relacionados con su interés en las interacciones entre humanos y sistemas informáticos. En uno de esos proyectos, Cen examina las opciones para regular las redes sociales. Su trabajo reciente proporciona un método para traducir regulaciones legibles por humanos en auditorías procesables.

Para tener una idea de lo que eso significa, imagine que los reguladores requieren que el contenido de salud pública, por ejemplo, sobre las vacunas, no difiera significativamente para los usuarios de izquierda y de derecha. ¿Cómo deben verificar los auditores si una plataforma de redes sociales cumple con esta regulación? ¿Se puede hacer que una plataforma cumpla sin afectar su balance final? ¿Y cómo afecta el cumplimiento al contenido real que ven los usuarios?

Diseñar un proceso de evaluación es difícil en gran parte porque hay muchas partes interesadas en lo que respecta a las redes sociales. Los auditores deben revisar el algoritmo sin acceder a datos confidenciales del usuario. También deben evitar los secretos comerciales engañosos que pueden evitar que analicen el mismo algoritmo que están probando, ya que esos algoritmos son propietarios. Otras consideraciones también juegan un papel, como B. el equilibrio entre eliminar la información errónea y proteger la libertad de expresión.

Para hacer frente a estos desafíos, Cen y Shah diseñaron un proceso de inspección que no requiere más que acceso de caja negra al algoritmo de redes sociales (que respeta los secretos comerciales), no elimina contenido (lo que evita problemas de censura) y no requiere acceso a los usuarios (por lo tanto, mantener la privacidad del usuario).

En su proceso de diseño, el equipo también analizó las propiedades de su método de prueba y descubrió que garantiza una propiedad deseable que denominan solidez de decisión. Como buenas noticias para la plataforma, muestran que una plataforma puede pasar la prueba sin sacrificar las ganancias. Curiosamente, también descubrieron que la auditoría estimula naturalmente la plataforma para mostrar a los usuarios contenido diverso conocido por ayudar a reducir la difusión de información errónea, contrarrestar las cámaras de eco y más.

¿Quién obtiene buenos resultados y quién obtiene malos resultados?

En otra línea de investigación, Cen examina si las personas pueden lograr buenos resultados a largo plazo no solo compitiendo por los recursos, sino también sin saber de antemano qué recursos son mejores para ellos.

Algunas plataformas, como B. Las plataformas de búsqueda de empleo o las aplicaciones para compartir viajes son parte del llamado mercado de emparejamiento que utiliza un algoritmo para emparejar un grupo de personas (por ejemplo, empleados o pasajeros) con otro (por ejemplo, empleador o conductor) para emparejar). En muchos casos, las personas tienen preferencias coincidentes que aprenden a través de prueba y error. Por ejemplo, en los mercados laborales, los trabajadores aprenden sus preferencias sobre los tipos de trabajos que quieren y los empleadores aprenden sus preferencias sobre las habilidades que quieren de los trabajadores.

Pero el aprendizaje puede ser interrumpido por la competencia. Por ejemplo, si a los trabajadores de un determinado entorno se les niegan repetidamente trabajos en la industria tecnológica debido a la intensa competencia por los trabajos tecnológicos, es posible que nunca obtengan el conocimiento que necesitan para tomar una decisión informada sobre si trabajar en la industria tecnológica. Del mismo modo, es posible que los empleadores de tecnología nunca vean y aprendan lo que esos trabajadores podrían hacer si fueran contratados.

El trabajo de Cen explora esta interacción entre el aprendizaje y la competencia, y examina si es posible que las personas de ambos lados del mercado de emparejamiento se vayan felices.

Al modelar tales mercados coincidentes, Cen y Shah descubrieron que, de hecho, es posible, con poco arrepentimiento (los trabajadores están contentos con sus resultados a largo plazo), justicia (la felicidad se distribuye uniformemente) y un alto bienestar social.

Curiosamente, no es obvio que sea posible lograr estabilidad, bajo arrepentimiento, equidad y alto bienestar social al mismo tiempo. Entonces, otro aspecto importante de la investigación fue descubrir cuándo es posible lograr los cuatro criterios simultáneamente y examinar los efectos de estas condiciones.

¿Qué efecto tiene X sobre Y?

Sin embargo, durante los próximos años, Cen planea trabajar en un nuevo proyecto que examinará cómo cuantificar el efecto de una acción X en un resultado Y cuando medir ese efecto es costoso, o imposible, donde se enfoca específicamente en los sistemas. que tienen un comportamiento social complejo.

Por ejemplo, a medida que aumentaron los casos de Covid-19 en la pandemia, muchas ciudades tuvieron que decidir qué restricciones implementar, como prohibir el tráfico. B. Requisitos de mascarilla, cierre de negocios u órdenes de quedarse en casa. Tuvieron que actuar rápidamente, equilibrando la salud pública con las necesidades económicas y de la comunidad, el gasto público y una miríada de otras consideraciones.

Por lo general, para evaluar el impacto de las restricciones en las tasas de infección, se pueden comparar las tasas de infección en áreas sujetas a diferentes intervenciones. Si un condado tiene un mandato de mascarilla mientras que su condado vecino no lo tiene, uno pensaría que comparar las tasas de infección de los condados mostraría la efectividad de los mandatos de mascarilla.

Pero, por supuesto, ningún condado existe en el vacío. Por ejemplo, cuando las personas de ambos condados se reúnan para un partido de fútbol en los condados sin cubrebocas todas las semanas, la gente de ambos condados se mezclará. Estas interacciones complejas son importantes y Sarah planea explorar cuestiones de causa y efecto en tales entornos.

«Estamos interesados ​​en cómo las decisiones o intervenciones afectan un resultado interesante, por ejemplo, cómo la reforma de la justicia penal afecta las tasas de encarcelamiento o cómo una campaña publicitaria podría cambiar el comportamiento público», dice Cen.

Cen también ha aplicado los principios de promover la inclusión a su trabajo en la comunidad del MIT.

Como una de las tres copresidentas del grupo de estudiantes Graduate Women in MIT EECS, ayudó a organizar la cumbre de investigación GW6 inaugural con investigaciones de estudiantes de posgrado, no solo para presentar modelos positivos a seguir para los estudiantes, sino también para resaltar los muchos éxitos Graduados del MIT que no deben ser subestimados.

Ya sea en la informática o en la comunidad, un sistema que toma medidas para combatir el sesgo es aquel que goza de legitimidad y confianza, dice Cen. «Responsabilidad, legitimidad, confianza: estos principios juegan un papel crucial en la sociedad y, en última instancia, determinarán qué sistemas resistirán la prueba del tiempo».

Related post

A la vanguardia de la construcción con biología

A la vanguardia de la construcción con biología

Ritu Raman, profesor asistente de desarrollo profesional de ingeniería mecánica de d’Arbeloff, se centra en la construcción con biología utilizando células…
El programa interactivo de los científicos informáticos ayuda a planificar el movimiento para entornos con obstáculos – ScienceDaily

El programa interactivo de los científicos informáticos ayuda a…

Al igual que nosotros, los robots no pueden ver a través de las paredes. A veces necesitan un poco de ayuda…
Toma lecciones en realidad virtual con Immerse, una aplicación de voz para Quest 2

Toma lecciones en realidad virtual con Immerse, una aplicación…

En el metaverso, imagínese llegando tarde a la escuela. Bucear es una plataforma educativa de metaverso desarrollada en colaboración con los…

Leave a Reply

Tu dirección de correo electrónico no será publicada.