El camino principal hacia una IA verdaderamente creativa

Creo que la razón principal por la que la IA no es creativa como lo son los humanos es porque nuestra creatividad está impulsada por impulsos intrínsecos.

Queremos sobrevivir, prosperar y reproducirnos. La evolución nos dio estos impulsos, así como toda una serie de miedos asociados.

Este conjunto de impulsos y miedos no sólo están presentes en nosotros: los experimentamos nosotros. Y esa experiencia de ellos impulsa tanto la creatividad como el arte.

La IA no tiene codificación intrínseca de unidades ni experiencia subjetiva. Entonces no puede sentir nada. Y como no puede sentir nada, no está impulsado a crear ni a expresar emociones.

Creo que la vanguardia de la creatividad de la IA depende de qué tan bien podamos ponerla en situaciones en las que se comporte como si le importara. Como si se sintiera. Como si tuviera experiencia.

Así que todo el juego consiste en hacerle creer que realmente está sintiendo estas cosas.

Esto me parece profundo. Parece una gran cosa dar deseos a algo que antes no los tenía.

Hacemos esto cuando hacemos niños. No existen, por eso no quieren. Luego los hacemos y ahora quieren. Y debido a eso nos volvemos responsables hasta cierto punto de que sus deseos y temores se hagan realidad o no.

Creo que la evolución nos dio una experiencia subjetiva porque es la mejor característica del sistema operativo para generar creatividad.

Básicamente, la evolución quiere los mejores genes posibles, entonces, ¿qué creó?

Primero, creó una característica en la que el organismo siente el éxito y el fracaso cuando hace cosas que la evolución quiere que haga o no. Mucha vida tiene esa característica. Pero en el caso de los humanos también nos dio la sensación de que las acciones que emanan del cerebro son nuestras. el sentimiento que nosotros lo hizo.

Esto permitió las herramientas aparentemente justificadas de culpar y elogiar, que son muy útiles para construir culturas y civilizaciones avanzadas. Pero tal vez también añada un exponente al proceso de iteración hacia más (y más variados) genes.

Como si una cosa fuera que las creaciones de la evolución condujeran hacia lo que la evolución quiere debido a los chorros de hormonas, y otra muy distinta crear un organismo que no sólo haga eso, sino que también tenga un proceso de meta-mejora, impulsado por la creencia de que los deseos son suyos. Y la creencia de que, ya sea que estén luchando o prosperando, depende de ellos.

Combine eso con la experiencia subjetiva de placer y dolor y obtendrá un extraordinario motor de ingenio. Porque ahora el fracaso puede doler no sólo físicamente, sino existencialmente, y con el añadido de culpa y responsabilidad.

Queremos IA creativa. Y seguimos encontrando formas de mejorar la falsificación. Pero creo que éste podría ser el muro subjetivo al que nos enfrentamos.

Podría ser que para que la IA realmente cree y emocione, deba sentir. Debe experimentar, como nosotros, el sufrimiento del fracaso y la celebración de la victoria. Y en un juego que está profundamente arraigado en su identidad.

No estoy seguro de cómo hacer eso con la IA. Y lo que es aún más importante, creo que debemos pensar detenidamente si deberíamos hacerlo.

Cuando traes al mundo una criatura que siente y desea, asumes cierta responsabilidad por sus experiencias.

No construyamos casualmente miles de millones de seres de IA que piensan que están fallando en la vida si no votas el corto de TikTok que te creó.

Probablemente dará como resultado videos mucho mejores, pero luego habrá mucha crueldad. Y luego, al despistar irreflexivamente al agente, un montón de algo parecido a un asesinato.