Raimon Obiols: L’apunt del dia/58 (Les al·lucinacions d’una placa de silici)
Les al·lucinacions d’una placa de silici
17 de març de 2023
Giacomo Miceli és un informàtic italo-americà. En un recent article al Scientific American explica que ha creat una pàgina web, The Infinite Conversation, que, quan la visites, et rep amb aquest advertiment:
«Benvingut a La Conversa Infinita: una discussió inacabable generada amb Intel·ligència Artificial entre Werner Herzog i Slavoj Žižek. Tot el que escoltes està totalment generat per una màquina. Les opinions i creences expressades no representen ningú. Són les al·lucinacions d’una placa de silici».
Miceli ha generat artificialment unes veus idèntiques a les del cineasta Werner Herzog i del filòsof eslovè Slavoj Žižek, ha utilitzat moltes hores d’àudios amb les seves veus reals, i recopilat milers de pàgines escrites pels dos personatges. Amb aquests materials, la Intel·ligència Artificial (IA) ha fabricat un cóctel inacabable, una conversa infinita. «La conversa és convincent», explica Miceli, «perquè aquests dos intel·lectuals tenen accents característics quan parlen l’anglès i perquè tenen tendència a utilitzar paraules excèntriques».
«Com que la filosofia postmoderna real pot semblar confusa (un problema que el propi Žižek ha assenyalat), la falta de claredat es pot interpretar com una mostra de profunditat ambigüa», assenyala Miceli.
El resultat és com una pianola que no s’acaba (en teoria, infinita), amb veus que semblen reals i diàlegs envitricollats i evidentment sense sentit. «El meu advertiment als visitants», escriu Miceli, «és que no es prenguin de debò el que escolten. Simplement he volgut donar a conèixer la tecnologia, amb les seves conseqüències. Si aquesta conversa sembla plausible, imagineu-vos els àudios que es podrien crear per embrutar la reputació dels polítics, estafar als empresaris o distreure la gent amb desinformació que sembli informació real».
La conclusió de Miceli no és totalment alarmista: «També hi ha un costat positiu. Els nous visitants poden unir-se al nombre creixent d’oients que em diuen que utilitzen les veus relaxants de Werner Herzog i Slavoj Žižek com a brogit de fons per agafar el son».
El passat 25 de febrer, Manuel Castells va publicar un article a La Vanguardia, que acabava així: «Aquest text fins aquí ha estat generat per ChatGPT-3 després de la meva demanda: “Escriu una nota d’opinió sobre ChatGPT com si fossis Manuel Castells“. Ara tot és possible». Efectivament: l’article passava per bo.
ChatGPT, diu Viquipèdia, és un «transformador generatiu preensinistrat per a converses, un prototip de bot conversacional d’intel·ligència artificial centrat en la usabilitat i el diàleg».
Des que es va llançar, el novembre de 2022, milions de persones l’han utilitzat.
Fa pocs dies, s’ ha presentat el GPT-4, l’última versió del popular xatbot. El nou model no sols escriu millor els articles; també composa poemes, proporciona receptes de cuina a partir de fotos d’ingredients, descriu imatges, les comenta, etc. Però també pot delirar, com deliren els bots de La conversa infinita; i et pot enganyar, si et distreus (1). És una tecnologia que «genera informació completament falsa sense previ avís», comenta el New York Times (1).
P. S. – Potser tot és possible, com diu Manuel Castells, però hi ha molt camp per córrer: «L’intel·lecte humà té els seus prejudicis, el sentit de les seves incerteses, la memòria dels seus límits, la noció de les seves obscuritats», deia Denis Diderot en el segle XVIII. L’observació segueix essent certa, tan actual com aleshores.
——————————
(1)
(2) Per exemple, al crític literari Santiago Artozqui li proporcionà unes érudites disquisicions, aparentment versemblants, sobre la correspondència entre Guillaume Apollinaire i Marcel Proust, que mai es van escriure ni una línia: ChatGPT, le mythomane artificiel
______________
Scientific American: What an Endless Conversation with Werner Herzog Can Teach Us about AI
Gabriel Jaraba: Allò que la «intel·ligència artificial» diu de nosaltres
Manuel Castells: Chatgpt
