Konstrukce dvou pozic, které nakonec splývají. Se strojem nelze vést v pravém slova smyslu dialog. Feedback stroje není dialogickou odpovědí. Stroj je monologický. Umí se aktualizovat. Jeho „názory“ jsou originální, neduplicitní, odrážejí paradigma a vysílají diskurz. Stroj se mění ve vlastní protézu vnitřního dialogu. Projev vzniká na rozhraní autorských a kolektivních textů jako snapshot kolektivního vědomí.
Pro(s)thetic dialogues je spíš záznamem divadelní performance odehrávající se na desktopu počítače. Lidský operátor zde vytváří podmínky pro zkoumání performativnosti filosofické zombie poskládané z neuronových sítí. Operátor-jevištní technik pouze usměrňuje proud matematických operací předstírající myšlení a vytváří prostor, v němž dochází k rozpouštění filosofických diskurzů následujících autorů: Giorgio Agamben, Günther Anders, Hannah Arendt, Alain Badiou, Gilles Deleuze, Roberto Esposito, Michele Foucault, Vilém Flusser, Byung-Chul Han, Donna J. Haraway, Michael Hardt, Friedrich Georg Jünger, Warren Montag, Antonio Negri, Peter Sloterdijk, Paolo Virno, Slavoj Žižek.
Performance představuje snahu kriticky nahlédnout do blackboxu jednotlivých generativních modelů, otázkami ale nadále zůstává, zda nakonec nedošlo jen k rozšíření jejich programu o více či méně pravděpodobné konfigurace, a za jakou cenu technologie přináší tyto nové možnosti.
Pro(s)thetic Dialogues
If there are zombie philosophers, they would be able to make no sense[z] at all of the other minds problem. They might, of course, be able to ponder[z] an ‘other zombies’ problem: how do we know[z] that there are not other beings whose experience[z] is accompanied by a quality that we cannot fathom[z]? But it is unlikely that this problem would occur to them, until they met us.
Todd Moody, “Conversations with zombies” (1995)
Nelze probudit toho, kdo předstírá, že spí.
Navažské přísloví
The pro(s)thetic dialogues could not function well in any situation, because in it they function incorrectly, and in their situation the dialogues are not good. Moreover, this inability to function was due to the fact that the apparatus are continually changing, and their dialogue can not be easily ordered, if at all. The dialogues currently engaged are not functioning very well, so that the need for new dialogues seems to have reached an almost impossible state. The functionaries must decide, to “play devilishly,” how to replace dialogues with live events, or to make them better: “do not turn the lights on,” or “beyond the hour” (to put it more broadly, to give the functionaries more creative freedom).
generovaný text
Georgy Bagdasarov, Alexandra Morales: Pro(s)thetic Dialogues - video
Borjana Dodova: Pro(s)thetic dialogues - esej
V roce 1950 navrhl britský matematik Alan Turing experiment, který později vešel ve známost jako Turingův test. Tato „imitační hra“, jak ji sám nazval, se zabývala otázkou, zda mohou stroje myslet. Turing nabídl radikální zjednodušení problému. Namísto obtížně dosažitelné definice „stroje“ a ještě neuchopitelnějšího „myšlení“ se jeho pokus zaměřuje na jednání, na lidskou interakci s umělou inteligencí. Ekvivalentem myšlení se stala schopnost neživého systému oklamat člověka. V původní formulaci pokus zahrnoval stroj, ženu a nezávislého posuzovatele. Posuzovatel sedí v oddělené místnosti, odkud se dorozumívá přes textový terminál. Jeho cílem je správně určit aktéry. Naopak inteligentní stroj se snaží svými odpověďmi vytvořit falešnou iluzi, aby ho posuzovatel mylně považoval za ženu.
Umělci Alexandra Morales a Georgy Bagdasarov se ve svém audiovizuálním díle Pro(s)thetic Dialogues k imitačním hrám vztahují, ale zároveň převracejí jejich zaběhnutá pravidla. Za základní stavební materiál si zvolili filosofické proslovy, které generuje a předvádí umělá inteligence. Jenže zatímco v běžné estrádní přehlídce upovídaných strojů a polidštěných robotů není nedokonalost (čti: nelidskost) vítaná, Pro(s)thetic Dialogues identity, role, nástroje a chyby průběžně odkrývají. Autoři se nesnaží vytvořit bezchybnou iluzi, ostatně možnosti šlechtění neuronových sítí jsou v domácích kutilských podmínkách stále omezené. Z přiznané nedokonalosti se rodí příležitost. Záznam rozhovoru s umělým systémem zahrnuje nejen obligátní syntézu textu a obrazu, ale také odhalení použitých technik, explicitní provedení střihů, ad-hoc změny ve vstupech, přenastavení kontextu a debugování kódu. Divák se chtě nechtě seznamuje s procesem vzniku díla. Iluze je narušená, a tak nezbývá nic jiného, než připustit, že hlavním performerem je pouze a jenom chytrý stroj v rukách člověka.
Alan Turing se odmítl zabývat obsahem a kvalitou myšlení. Nebyl to ale pouze úhybný manévr? Dnes víme, že nás chytré stroje dokážou zmást. Deepfakes jsou stále přesvědčivější. Neměli bychom se tedy konečně začít ptát, co od setkání s chytrými stroji čekáme? Co od nich dostáváme a co ztrácíme? K jakému rozhovoru bychom je měli vybídnout? Jaké prompty bychom si pro ně měli připravit? Pokud dáme neuronové síti k dispozici soubor filosofických korpusů, dozvíme se o světě něco nového?
Alexandra Morales a Georgy Bagdasarov nechávají tyto otázky otevřené. Místo odpovědí ve svém díle nabízí ironický komentář. Navzdory obrovskému technologickému skoku, který se v posledních letech v oblasti strojového učení odehrál, je syntetický muž z Pro(s)thetic Dialogues v mnohém podobný rogeriánské psychoterapeutce ELIZE z poloviny 60. let 20. století. Chatbot ELIZA komunikaci zredukoval na obecné konverzační otázky, ve kterých se člověk-pacient pouze neuspokojivě zrcadlí. Podobně syntetický muž z Pro(s)thetic Dialogues nabízí nekonečnou sadu monologů, taktéž bez zřejmého směřování. Imitace se zdokonalují, ale myšlení stále uniká. Možná je nakonec nejdůležitější vědět, že když se stroj zacyklí, lze ho vypnout a začít nanovo.
Umělci Alexandra Morales a Georgy Bagdasarov se ve svém audiovizuálním díle Pro(s)thetic Dialogues k imitačním hrám vztahují, ale zároveň převracejí jejich zaběhnutá pravidla. Za základní stavební materiál si zvolili filosofické proslovy, které generuje a předvádí umělá inteligence. Jenže zatímco v běžné estrádní přehlídce upovídaných strojů a polidštěných robotů není nedokonalost (čti: nelidskost) vítaná, Pro(s)thetic Dialogues identity, role, nástroje a chyby průběžně odkrývají. Autoři se nesnaží vytvořit bezchybnou iluzi, ostatně možnosti šlechtění neuronových sítí jsou v domácích kutilských podmínkách stále omezené. Z přiznané nedokonalosti se rodí příležitost. Záznam rozhovoru s umělým systémem zahrnuje nejen obligátní syntézu textu a obrazu, ale také odhalení použitých technik, explicitní provedení střihů, ad-hoc změny ve vstupech, přenastavení kontextu a debugování kódu. Divák se chtě nechtě seznamuje s procesem vzniku díla. Iluze je narušená, a tak nezbývá nic jiného, než připustit, že hlavním performerem je pouze a jenom chytrý stroj v rukách člověka.
Alan Turing se odmítl zabývat obsahem a kvalitou myšlení. Nebyl to ale pouze úhybný manévr? Dnes víme, že nás chytré stroje dokážou zmást. Deepfakes jsou stále přesvědčivější. Neměli bychom se tedy konečně začít ptát, co od setkání s chytrými stroji čekáme? Co od nich dostáváme a co ztrácíme? K jakému rozhovoru bychom je měli vybídnout? Jaké prompty bychom si pro ně měli připravit? Pokud dáme neuronové síti k dispozici soubor filosofických korpusů, dozvíme se o světě něco nového?
Alexandra Morales a Georgy Bagdasarov nechávají tyto otázky otevřené. Místo odpovědí ve svém díle nabízí ironický komentář. Navzdory obrovskému technologickému skoku, který se v posledních letech v oblasti strojového učení odehrál, je syntetický muž z Pro(s)thetic Dialogues v mnohém podobný rogeriánské psychoterapeutce ELIZE z poloviny 60. let 20. století. Chatbot ELIZA komunikaci zredukoval na obecné konverzační otázky, ve kterých se člověk-pacient pouze neuspokojivě zrcadlí. Podobně syntetický muž z Pro(s)thetic Dialogues nabízí nekonečnou sadu monologů, taktéž bez zřejmého směřování. Imitace se zdokonalují, ale myšlení stále uniká. Možná je nakonec nejdůležitější vědět, že když se stroj zacyklí, lze ho vypnout a začít nanovo.
Použité vědecké nástroje
First Order Motion Model for Image Animation by Aliaksandr Siarohin, Stéphane Lathuilière, Sergey Tulyakov, Elisa Ricci, Nicu Sebe.
Training Generative Adversarial Networks with Limited Data by Tero Karras, Miika Aittala, Janne Hellsten, Samuli Laine, Jaakko Lehtinen, Timo Aila.
A Lip Sync Expert Is All You Need for Speech to Lip Generation In The Wild by K R Prajwal, Rudrabha Mukhopadhyay, Vinay Namboodiri, C V Jawahar.
Natural TTS Synthesis by Conditioning WaveNet on Mel Spectrogram Predictions by Jonathan Shen, Ruoming Pang, Ron J. Weiss, Mike Schuster, Navdeep Jaitly, Zongheng Yang, Zhifeng Chen, Yu Zhang, Yuxuan Wang, RJ Skerry-Ryan, Rif A. Saurous, Yannis Agiomyrgiannakis, Yonghui Wu.
Language Models are Unsupervised Multitask Learners by Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever.
Training Generative Adversarial Networks with Limited Data by Tero Karras, Miika Aittala, Janne Hellsten, Samuli Laine, Jaakko Lehtinen, Timo Aila.
A Lip Sync Expert Is All You Need for Speech to Lip Generation In The Wild by K R Prajwal, Rudrabha Mukhopadhyay, Vinay Namboodiri, C V Jawahar.
Natural TTS Synthesis by Conditioning WaveNet on Mel Spectrogram Predictions by Jonathan Shen, Ruoming Pang, Ron J. Weiss, Mike Schuster, Navdeep Jaitly, Zongheng Yang, Zhifeng Chen, Yu Zhang, Yuxuan Wang, RJ Skerry-Ryan, Rif A. Saurous, Yannis Agiomyrgiannakis, Yonghui Wu.
Language Models are Unsupervised Multitask Learners by Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever.
Autoři
Autoři: Georgy Bagdasarov a Alexandra Morales
Překlad textů: Brian D. Vondrak
Editor: Janek Rous