AI (10)

"Jeff Clune az AI generáló AI koncepcióját használja, és így több pilléren keresztül mutatja be, hogy mi kell ahhoz, hogy az AI rendszerek általános AI rendszereket generáljanak. Nemrégiben a keretrendszerének egyik alapvető elemeként hozzáadta az alapmodellekre való építés gondolatát. Ő ezt úgy hívja, hogy óriási alapmodellek vállán állni, ami szerintem a kulturális tudásra való építkezés ML-egyenértéke."(Minqi Jiang)

Egy podcastot néztem a minap, amelyben Minqi Jiang és Marc Rigter arról beszélnek a Machine Learning Street Talk c. sorozatban Tim Scarfe kérdéseire válaszolva, hogy egy új, innovatív módszer fejlesztésén dolgoznak, amellyel a nyelvi modellek (LLM) intelligenciája általánosabbá tehető azáltal, hogy a szokásos célorientált képzés előtt megtanulják megismerni azt a világot, amelyben léteznek.

Egy adott pillanatban Minqi Jiang azt mondja, hogy a legújabb elképzelés szerint az AI építené az AI-t, majd hozzáteszi: “Jeff Clune has this concept of an AI generating AI, and so he’s got multiple pillars of essentially what it takes for you to have AI systems that generate general AI systems. And he has recently added, like as a fundamental piece in his framework, this idea of building on top of foundation models. And so he calls it like standing on the shoulders of giant foundation models, which is, I think, really just sort of ML (machine learning) equivalent of building on top of cultural knowledge.” (kiemelés tőlem) Ami magyarul kb. így hangzik: "Jeff Clune az AI generáló AI koncepcióját használja, és így több pilléren keresztül mutatja be, hogy mi kell ahhoz, hogy az AI rendszerek általános AI rendszereket generáljanak. Nemrégiben a keretrendszerének egyik alapvető elemeként hozzáadta az alapmodellekre való építés gondolatát. Ő ezt úgy hívja, hogy óriási alapmodellek vállán állni, ami szerintem a kulturális tudásra való építkezés ML-egyenértéke." (Fordítás: DeepL)

Nos, itt felkaptam a fejem. Filológusok és a középkorral foglalkozó szakemberek fülének ismerősen cseng az óriások vállának emlegetése. Érdekelni kezdett a kérdés. Megkerestem, hogy Jeff Clune hol használja ezt a kifejezést.

Jeff Clune, a Brit Kolumbiai Egyetem informatika professzora, aki korábban az OpenAI kutatója volt. Megtaláltam egy 2022-es előadását, amelyben a ppt-n valóban látszik a megfogalmazás olyan formában, hogy „AI sees further by standing on the shoulders of giant human data”, azaz „A mesterséges intelligencia tovább lát a hatalmas emberi adathalmaz vállán állva." Az előadó itt nem pontosítja, hogy honnan származik ez a kulturális kép.

Tovább kerestem, és találtam egy frissebb szöveget, ahol Clune már említ forrást is. A hivatkozás egy New York Times cikk (2024. április 6.), amelyben őt idézik: »“To borrow from Newton: A.I. sees further by standing on the shoulders of giant human data sets,” he said. « Tehát Clune professzor Isaac Newtonnak (1642–1726) tulajdonítja a gondolatot.

Bár legtöbben Newtonig viszik vissza a gondolat eredetét (a híres Khan Academy is), az eredeti forrás valószínűleg nem Newton. Ez a gondolat már Isaac Newton előtt is felbukkan, ezért joggal feltételezhető, hogy Newton is tanulhatta, hallhatta vagy olvashatta valahol, és utána emlegette, mivel egyetértett vele.

Úgy tűnik, hogy az első írásos említője John Salisbury (1110 k. – 1180), ám ő is egy elődre hivatkozik a gondolat eredetét illetően. A Metalogicon c. munkájában azt írja, hogy Chartres-i Bernát mondta ezt. Ugyan megpróbáltam a Metalogicon latin eredetijét is megkeresni, ám a hivatkozott oldalszámon nem volt ott ez az idézet, az angol fordításban azonban megtaláltam. A Salisbury által írt szöveg kontextusa is érdekes: "Our own generation enjoys the legacy bequeathed to it by that which preceded it. We frequently know more, not because we have moved ahead by our own natural ability, but because we are supported by the [mental] strength of others, and possess riches that we have inherited from our forefathers. Bernard of Chartres used to compare us to [puny] dwarfs perched on the shoulders of giants. He pointed out that we see more and farther than our predecessors, not because we have keener vision or greater height, but because we are lifted up and borne aloft on their gigantic stature. I readily agree with the foregoing.", link, 167 old, azaz magyarul: „A mi generációnk élvezi azt az örökséget, amelyet az előző generáció hagyott ránk. Gyakran többet tudunk, nem azért, mert saját természetes képességeink által haladtunk előre, hanem mert mások [szellemi] ereje támaszt minket, és birtokoljuk azt, amit őseinktől örököltünk. Chartres-i Bernát gyakran hasonlított minket [apró] törpökhöz, akik óriások vállán ülnek. Rámutatott arra, hogy többet és messzebbre látunk elődeinknél, nem azért, mert élesebb a látásunk vagy magasabbak vagyunk, hanem mert felkapnak és magasba emelnek minket óriási termetükkel. Teljes mértékben egyetértek az előzőekkel.” (Fordítás: DeepL)

Chartres-i Bernát (1070 k. – 1124/1130 k.) francia filozófus volt, akinek azonban a művei nem maradtak fenn, ezért azokat csak mások elbeszéléséből lehet megismerni, mint amilyen a John Salisbury fent említett beszámolója is. Salisbury angol teológus volt, aki a pápai udvarban és a canterburyi érseki hivatalban is szolgált, majd 1117-ben chartes-i püspök lett. Az időzítés fontos a történetben, hogy láthassuk, mikor írták le először ezt a gondolatot.

Szóval azzal kezdődött az egész, hogy a Building a GENERAL AI agent with reinforcement learning című podcastot hallgattam, és azzal végződött, hogy John Salysbury által 1159 körül kiadott Metalogicont olvasom. És közben arra gondolok, hogy ez a kulturális kép, az óriások vállán ülő törpe alakja, aki bár kicsi, mégis messzebb lát, amennyiben épít az elődök munkájára, szóval ez a kép többszáz évig tartotta magát az európai kultúrában. Sőt, ha kicsit kiterjesztjük a fogalmat, visszamehetünk az ókori görögök által használt hüpolépszisz fogalmáig, amely eredetileg az Iliász, Odüsszeia és hasonló szövegek recitálását célzó versenyeken bukkant fel, és azt jelentette, hogy ott kell folytatni, ahol az előző abbahagyta. Később azonban már tágabb értelemben, a kulturális építkezés folyamatára is használták (ld. erről Jan Asmann: Kulturális emlékezet, Budapest, 2004, 273).

És ha belegondolunk, a világunk valóban ez a gondolat alapján működik: arra tanítjuk a gyerekeket az iskolában, hogy a létrehozott tudás nem a vákuumból született, hanem az elődök eredményeire támaszkodva. Épp, amit állítólag Bernát is megfigyelt és mondogatott, de amit Salisbury biztosan le is írt.

Egyébként a Metalogicon egy roppant izgalmas szöveg, ha az ember a latin eredeti szöveg helyett például az angol fordítást veszi a kezébe.

Kép: Salisburyi János filozófiát tanít, Salisburyi János Policraticus című művének miniatűrája (részlet), a kép forrása: link