Expire-Span: cuando la IA aprende a olvidar

Un nuevo paso hacia una IA más parecida a la humana, según sus diseñadores

Los investigadores de Facebook AI Research presentan el viernes 14 de mayo un nuevo método de aprendizaje profundo para la IA, llamado Expire-Span. ¿La particularidad de esta innovación? Expire-Span tiene pequeñas lagunas de memoria… Lejos de ser una debilidad, pequeñas omisiones bien elegidas permitirían a las IAs ganar en escalabilidad y eficiencia.

Olvidar lo superfluo para retener lo esencial

El gigantesco apetito de datos de las IAs es también uno de sus puntos débiles. Procesa sistemáticamente todos los datos que se le presentan. Un método que tiene sus límites para analizar grandes bases de datos de información, como libros o vídeos largos. Es posible, pero implica importantes costes computacionales.

Aquí es donde entra en juego Expire-Span. Los investigadores de Facebook han dotado a la IA de la capacidad de olvidar información. Para ello, se inspiraron en lo que tenían a mano: la memoria humana. El cerebro, que es bombardeado constantemente con información, la clasifica según su relevancia para retener sólo lo esencial.

Expire-Span funciona según el mismo principio, clasifica sus tareas según su relevancia y luego les da una fecha de caducidad. Una fecha más o menos larga en función de la relevancia de la información para la tarea que debe realizar la IA. Los mecanismos de aprendizaje permiten entonces al modelo ajustar la fecha de caducidad que debe poner a la información para afinar su decisión.

En un ejemplo utilizado por los autores del estudio, se explica el método. Una IA normal a la que se le encargue encontrar una puerta amarilla en una foto de un pasillo con seis puertas guardará toda la imagen en la memoria para resolver el problema. Con Expire-Span, la IA retendrá sólo una parte de la imagen, la más relevante para su tarea.

Con este método ahorrativo, Expire-Span también gana, paradójicamente, en memoria. Hasta ahora, para conservar la información, los sistemas la comprimían, alterando los “recuerdos”. Al eliminar lo superfluo, Expire-Span retiene lo esencial, con mayor eficacia y durante más tiempo.

El metodo Expire Span confiere a las redes neuronales tanto la capacidad de olvidar a gran escala como de decidir que es prescindible - Expire-Span: cuando la IA aprende a olvidar

Los creadores del modelo afirman una mayor “eficiencia en varias tareas de contexto largo en el modelado del lenguaje, el aprendizaje por refuerzo, la colisión de objetos y las tareas algorítmicas”. Todas estas son áreas en las que Facebook quiere ser líder en IA.

La mente humana, ¿el modelo eterno para la futura IA?

Los científicos responsables del estudio creen que “la impresionante escalabilidad y eficiencia de Expire-Span tiene interesantes implicaciones para lograr algún día una amplia gama de capacidades de IA dura”. El objetivo del equipo de investigación es acercar el funcionamiento de las memorias de la IA al de los humanos. El siguiente paso, dicen, es incorporar diferentes tipos de memoria a las redes neuronales para tocar la complejidad de los recuerdos humanos.

Pin It on Pinterest

Shares