The Alignment Problem – Machine Learning and Human Values

Los sistemas actuales de aprendizaje automático, entrenados con datos, son tan eficaces que los hemos incitado a ver y oír por nosotros y a tomar decisiones en nuestro nombre. Pero las alarmas han saltado.

En los últimos años ha surgido una gran preocupación por los avances en el campo del aprendizaje automático. Cuando los sistemas que intentamos enseñar no hacen al final lo que queremos o lo que esperamos, surgen riesgos éticos y potencialmente existenciales.

Los investigadores lo llaman el problema de la alineación: los sistemas seleccionan currículos hasta que, años después, descubrimos que tienen sesgos inherentes de género. Los algoritmos deciden la fianza y la libertad condicional y parecen evaluar de forma diferente a los acusados negros y blancos.

Ya no podemos suponer que nuestra solicitud de hipoteca, o incluso nuestras pruebas médicas, sean vistas por ojos humanos. Y a medida que los vehículos autónomos comparten nuestras calles, ponemos cada vez más nuestras vidas en sus manos. Los modelos matemáticos y computacionales que impulsan estos cambios varían en complejidad desde algo que puede caber en una hoja de cálculo hasta un sistema complejo que podría llamarse de forma creíble inteligencia artificial. Están sustituyendo constantemente tanto el juicio humano como el software explícitamente programado.

En este libro de Brian Christians, conocemos los problemas de alineación existentes, y aprendemos su ambicioso plan para resolverlo antes de que se nos vaya de las manos. En una mezcla magistral de historia y reportaje sobre el terreno, Christian sigue el explosivo crecimiento del campo del aprendizaje automático y examina su actual y extensa frontera.