Compartimos nuestros apuntes de The Alignment Problem de Brian Christian.
Un repaso sobre la evolución de la inteligencia artificial hasta 2020. Resume cientos de entrevistas y conversaciones a lo largo de 4 años de investigación.
No se trata de un libro específico sobre gestión de proyectos, pero su manera de tratar el tema del alineamiento, así como problemas éticos y de seguridad, usa ejemplos reales que pueden servir de guía a desarrolladores, gestores y emprendedores.
La historia de la inteligencia artificial hace converger ramas del conocimiento desde las matemáticas y la física hasta la psicología y la filosofía ética.
Queda mucho por entender sobre la mente humana. La creación de máquinas que tratan de imitar sus funciones ha llevado a descubrimientos importantes sobre ésta, así como sobre nuestros sesgos individuales y culturales.
La evolución de esta tecnología es una historia accidentada, llena de serendipias, idealismo y casos reales que llaman a la precaución. Existe el riesgo de que un mal desarrollo cree profecías de cumplimiento inducido a gran escala, con su origen en modelos mal planteados. O a crear una sociedad que descuide y pierda todo aquello que no quepa en un modelo; que no sea cuantificable.
En el campo de la IA, los expertos insisten: no es suficiente con saber que funciona, hay que saber cómo funciona.