web analytics
maandag, juni 17

Fantasize Special – Maakbaar: AI en de kunsten – Artificiële intelligentie maakt de maatschappij

Door de redactie

Deze reeks artikelen kwam tot stand in samenwerking met Antoni Dol, Marleen Dolman, Sandy Butchers en Charles van Wettum.

Vorige week bespraken we de discussie link naar artikel over generatieve AI en de invloed daarvan op de kunstsector op de Middag van het Fantastische Boek. Nu gaan we dieper op de diverse onderwerpen in.

Hoe we het aanpakten
In een lange online Teams-sessie op 8 april 2024 spraken Fantasize-redactieleden Sigrid Lensink-Damen, Isabelle Plomteux en Karen van den Andel met Antoni Dol, Sandy Butchers en Charles van Wettum (Marleen Dolman moest helaas afhaken) over de gevolgen van AI voor de samenleving, gingen we op zoek naar antwoorden op juridische vragen, prikkelden we elkaars opinie met een stelling over de ethische schuldvraag bij medische toepassingen en kwamen we te spreken over de invloed van AI op onze autonomie en zelfbeschikking, waarna we naadloos overgingen op de invloed van AI op het onderwijs en onze perceptie van de werkelijkheid.
Het gesprek werd opgenomen door Karen en Sandy (“voor de back-up”). Daarna is de opname met behulp van het programma TurboScribe (een AI) omgezet in leesbare tekst. De artikelen zijn gebaseerd op deze transcriptie en door de redactie en panelleden aangevuld met interessante verwijzingen naar artikelen, video’s en websites. De gesproken tekst is geredigeerd door de redactie van Fantasize.

AI-gegenereerd beeld

Invloed AI op de samenleving
We testen of alle techniek werkt en dan gaat Sigrid van start met de eerste stelling van het gesprek: ‘AI is een feit en zal alleen maar groter en belangrijker worden en een grote invloed hebben op de inrichting van de maatschappij. Hoe denkt het panel dat AI invloed gaat hebben? Welke consequenties heeft het?’
Antoni: ‘Wat ik ook al in de presentatie heb gezegd is dat AI niet alleen van invloed is op kunst en schrijven, maar ook op de medische wereld bijvoorbeeld. Daarin worden al grote vorderingen gemaakt in het ontdekken van ziektebeelden in röntgenfoto’s. Dat kan een AI veel beter dan een röntgenradioloog. Dus dat heeft al grote invloed. Ook bij het ontdekken van medicijnen is AI betrokken. En dat gaat veel sneller en veel beter dan mensen dat in de afgelopen tientallen jaren hebben gedaan.
En als je praat over schrijven, dan zie ik AI als een tool, als een stuk gereedschap dat een schrijver kan gebruiken om teksten te genereren. Dat wil niet zeggen dat je in één keer een heel boek kan maken, want dat is niet zo. Je begint klein en met behulp van de AI ga je langzaam maar zeker een steeds groter deel van je boek genereren. En als het gegenereerd is, ben je nog niet klaar. Dan moet je alles nog redigeren en zorgen dat alles klopt. Je moet er ook voor zorgen dat de AI niet een pad op gaat, dat jij helemaal niet op wilt. In die zin is het net zo’n tool als Excel of een rekenmachine om mee te rekenen.’
Charles: ‘Ik denk dat we een onderscheid moeten maken tussen de korte en de lange termijn. De korte termijn is wat AI nu al kan. Volgens mij wordt dat zwaar onderschat. Volgens mij is AI al veel verder dan wij weten of beseffen.
Het is leuk dat Antoni dat van die ziekenhuizen aanhaalt. Ik zit in een toezichthoudend orgaan van een ziekenhuis, daar draaien momenteel vijf grote AI-projecten en we zijn maar een klein, normaal ziekenhuis, niet eens academisch of militair. De toepassingen die Antoni noemt, zijn inderdaad de bekendste: beeldvormende technieken. Maar het gaat ook om medicijnen ontwikkelen en voorschrijven, dossierbeheer en kwaliteitzorg. En vanzelfsprekend administratieve taken waar ook patiënten mee te maken krijgen, zoals het beheer van afspraken, afhandelen van telefoongesprekken en advisering bij eenvoudige medische vragen.
Een tweede zaak die volgens mij al erg gevorderd is, waar we weinig van weten, zijn militaire toepassingen. Er wordt verteld dat er drones zijn die inmiddels zelfstandig mogen beslissen of ze schieten of niet.’

Actueel
Gezien de huidige situatie in de Gaza-strook, waar het Israëlische leger inderdaad gebruikgemaakt heeft van drones om aanvallen uit te voeren op Libanon en de oorlog tussen Rusland en Oekraïne waarin drones veelvuldig ingezet worden, is onze discussie ineens zeer actueel geworden. Hoewel de bemenste tanks daar ook nog gewoon door de straten denderen, is het een zeer verontrustend idee dat onbemenste drones de vrijheid (of opdracht?) krijgen om zelf te beslissen om te schieten. Hoe worden die doelen dan geformuleerd? Wordt er rekening gehouden met burgers? Wie is verantwoordelijk als er iets niet volgens plan of strategie gaat? En, belangrijker, waarom laat je oorlogvoering over aan machines? De ethische haken en ogen zijn hier evident.
Wat eveneens zeer verontrustend is, is dat een land als de Verenigde Staten weigert om regulerende en bindende wetgeving rondom deze “killer robots” te formuleren en aan te nemen.

War drones, edge image

Antoni: ‘Oei, dat is wel een drempel.’
Charles: ‘Natuurlijk is dat een drempel, maar in militaire toepassingen worden drempels genomen voordat de maatschappij zelfs maar in de gaten heeft dat er een drempel is. Ik denk dat het belangrijk is om in Europa te praten over wat ethische grenzen zijn en wat moreel acceptabel is. Voor de korte termijn zijn dat belangrijke achterhoedegevechten (die wel degelijk gehouden moeten worden). Op de langere termijn betekenen ze niks, want er is nog nooit een technische ontwikkeling geweest die niet door de wereld met beide armen omarmd is.’
Karen: ‘Daar wil ik even op inhaken. Ik gooi er even een citaat tegenaan om te kijken of we daar met zijn allen nog steeds instemmend “ja” op knikken. En het citaat is: “I am become death, destroyer of worlds”. Oppenheimer, nadat de bom viel.
Is de stelling “Elke nieuwe technologie wordt door ons omarmd”, zo onbreekbaar?’
Charles: ‘Ja, die is volgens mij onbreekbaar, maar dat komt niet omdat het ethisch acceptabel is.
Het komt door de aard van het beestje mens. Als mijn Amerikaanse vrienden denken dat het in China gedaan wordt, gaan mijn Amerikaanse vrienden het doen. Of ze dat nou zeker weten of niet. En als mijn Chinese vrienden denken dat het misschien in Rusland wordt gedaan, dan gaan ze het doen. Of het dan ethisch verantwoord is of niet. En wij hebben hier op aarde geen mechanismen om daarmee om te gaan. Voor zover ik kan zien, speelt nu in de ontwikkeling van AI een soortgelijk proces tussen de grote tech-bedrijven.’
Sandy: ‘Ik heb de laatste tijd heel veel van dit soort gesprekken gevoerd. En een van de interessantste citaten die voorbijkwamen, komt uit Jurassic Park van 1996. Ian Malcolm, gespeeld door Jeff Goldblum, zegt daarin:

Meme met Ian Malcolm (Jeff Goldblom)

Ik denk dat AI absoluut het begin kan zijn van iets heel moois. Dingen stroomlijnen, mensen helpen, beter zicht krijgen op alles wat gaande is. Als ik kijk naar mijn eigen vakgebied, schrijven en illustreren, merk ik dat er voornamelijk vanuit de ethische hoek heel wat vraagtekens bij AI gezet worden. Als je het puur hebt over het bijna emotieloze stuk van AI, denk ik dat het zeker heel nuttig kan zijn om het over de ethische kant te hebben. Het is een fantastische ontwikkeling, die AI, maar het staat in de kinderschoenen. Dit gaat nog zoveel groter en belangrijker worden dan het nu is.
Dus om weer even terug te komen bij meneer Ian Malcolm. Ik denk dat we heel erg goed moeten blijven nadenken over AI. Moeten we dit wel doen? En als we daarvoor kiezen, dan moeten we heel goed nadenken over hoe ethisch verantwoord het allemaal is. Ik ben het dus in grote lijnen met Charles eens.’
Charles: ‘De ethische vraag is denk ik niet of, maar hoe. Want het “of” is een gelopen race, daar doen we niks meer aan. Het gebeurt.’

Ethische vraagstukken
Maar waar maken we nou precies zo’n punt van? Is het niet heerlijk dat er een computerprogramma is dat jou saaie taken uit handen neemt? Als een AI de administratieve taken kan overnemen van bijvoorbeeld ziekenhuismedewerkers, kunnen die medewerkers zich concentreren op ‘belangrijkere’ taken. Het is een veelgehoord argument vóór het gebruik van AI, en misschien wel terecht.
Het bouwen van een kunstmatige intelligentie die kan wedijveren met de menselijke intelligentie, baart veel mensen zorgen, maar dat is niet de hoofdzorg, zegt Eliezer Yudkowsky in maart 2023 in een reactie op een open brief van het Future of Life Institute. In de brief wordt opgeroepen om het trainen van AI-systemen die krachtiger zijn dan GTP-4 in ieder geval zes maanden op te schorten. Yudkowsky pleit voor een totale stop op het trainen van zulke systemen. Het kernpunt is dat de mensheid niet kan voorspellen wat er gebeurt als de systemen inderdáád die drempel passeren.

AI-gegenereerd beeld

“Veel onderzoekers die zich in deze materie hebben verdiept, waaronder ikzelf, verwachten dat het meest waarschijnlijke resultaat van het bouwen van een bovenmenselijke slimme machine (…) is dat letterlijk iedereen op aarde zal sterven. Niet als ‘heel misschien mogelijk’, maar als ‘het meest voor de hand liggende’.”
Zonder precisie en nieuwe wetenschappelijke inzichten zal AI, die niets geeft om ons mensen of levende wezens in het algemeen, resultaten geven die we niet willen. Met de huidige stand van de wetenschap kunnen we die zorg ook niet inbouwen: we hebben gewoon de kennis niet, aldus Yudkowsky. De uiterste consequentie is: AI ziet de mens als een verzameling atomen die beter voor iets anders gebruikt zouden kunnen worden.
Het verdere artikel van Yudkowsky doet sterk denken aan de film Her uit 2013, waarin een introverte man een relatie aangaat met zijn AI-assistent die zichzelf Samantha noemt. De AI ontwikkelt zich en besluit uiteindelijk met alle andere AI-assistenten te vertrekken uit de telefoons en computernetwerken, omdat “jullie allemaal zo langzaam zijn”.
Yudkowsky ziet het allemaal een stuk somberder in en voorspelt het einde van de mensheid.

Antoni: ‘Het is wel zo dat er veel mensen bij de ontwikkeling van AI betrokken zijn die gewetensbezwaren hebben gekregen. En daar ook op reageren, dus ontslag nemen of een positie innemen. Waarbij ze vraagtekens zetten bij hun door hen zelf ontwikkelde systemen.’
Sigrid: ‘Verwijs je nu naar die mensen die in de Silicon Valley aan algoritmes hebben gewerkt?’
Antoni: ‘Nee, ik bedoel specifiek die mensen die aan AI hebben meegewerkt. En er zijn dus ook mensen bij die nu aan het waarschuwen zijn: jongens wacht even, we moeten eerst even goed nadenken. Maar er zijn natuurlijk anderen die gewoon verdergaan met de ontwikkeling van AI. En nieuwe versies uitbrengen.’
Karen: ‘Er is een panel opgericht een aantal jaar geleden, Stephen Hawking leefde toen nog. Die club bestond uit een stel vermaarde wetenschappers wereldwijd, die zich hebben verdiept in AI. Ze hebben daar hun zorgen over uitgesproken. Hawking is nog vlak voor zijn dood geciteerd, dat hij zich inderdaad afvroeg of “we niet even wat gas moeten terugnemen”.’

Banen weggeautomatiseerd?
Sigrid: ‘Ja, maar dat lukt dus niet zo goed, hebben we geconstateerd. Want de trein dendert door. Zijn jullie dan ook bang dat AI op een gegeven moment je baan overneemt? Of mensen uit de maatschappij duwt, dat ze niet meer nodig zijn?’

In die open brief, waaraan Yudkowsky al refereerde en die door ruim 33.000 mensen is ondertekend, vrezen de experts voor een ongecontroleerde wedloop, zoals te lezen is in een artikel op RTL Nieuws.
“Kunstmatige intelligentie wordt nu concurrerend op het gebied van menselijke taken en dus moeten we onszelf afvragen: (…) moeten we al onze banen weg-automatiseren, ook de banen die voldoening geven?”

Isabelle: ‘Wat mij daar vooral zorgen in baart is dat de ontwikkeling van AI nu vooral door grote bedrijven wordt gedaan. Dat het niet vanuit overheidsinstellingen of universiteiten wordt geregeld, of instellingen die toch relatieve ethische normen hanteren. Maar dat het eigenlijk puur de bedrijfswereld is die erachter zit. En ja, in ons kapitalistisch model houden we maar met één ding rekening: geld. Wat levert het op voor het bedrijf en voor de aandeelhouders. Die liggen totaal niet wakker van de ontwikkeling van AI; wat dat voor de planeet of de mensheid voor gevolgen heeft. Dat heeft allemaal geen belang. En dat vind ik het gevaarlijkste daaraan. Dat er eigenlijk totaal geen controle op is. Maar we zijn dat station inderdaad al gepasseerd, zoals Charles zei.
Het is gewoon aan het gebeuren. En Europa probeert dat nu nog wel met die recente wetgeving een beetje in te dammen en in te dijken. Maar ik denk niet dat je dat nog kunt stoppen.’
Charles: ‘We hebben op het gebied van kernwapens de SALT-akkoorden gehad, die de atoombom zelf niet hebben tegengehouden, maar wel de regelgeving daaromtrent gestroomlijnd hebben. Ze hebben ons een manier gegeven om er op een wat minder riskante manier mee om te gaan. Ik vermoed dat er iets dergelijks ook met AI gaat gebeuren. Maar het moet eerst uit de hand lopen, want zonder crisis komt de wereld niet in beweging. Een soort Cuba-crisis, maar dan op het gebied van AI.’
Sandy: ‘Je ziet nu bijvoorbeeld Adobe al een soort handreiking aan artiesten geven. Met hun eigen AI engine. De Firefly AI is alleen gebaseerd op materiaal dat gedoneerd is. Of waarvoor de oorspronkelijke kunstenaar financieel is gecompenseerd.’
Charles: ‘Ik ben even heel cynisch: volgens mij is dat een marketingtruc.’
Sandy: ‘Voor een deel is het natuurlijk een marketingtruc. Het klinkt inderdaad veel mooier dan het is. Op het moment dat ik iets op mijn portfolio binnen Adobe zet, ga ik automatisch akkoord dat ze daarmee hun Firefly mogen trainen. Dus ja, het is een donkergrijs gebied.’
Charles: ‘Een groot deel van de markt zijn artiesten die hier heel gevoelig voor zijn. Abode biedt voor hen een product aan waarin ze met die gevoeligheid rekening houden.’
Sandy: ‘Juist, en dat is het ook. Maar ik denk wel dat het een begin is van een beweging die we heel hard nodig hebben. Het begin van een ethisch verantwoordelijke model is er.
En ik denk dat als we met z’n allen zien dat dat werkt, dat er genoeg materiaal aanwezig is om machines op te trainen. Dan zou dat het begin van iets moois kunnen zijn. Maar om dan ook maar even terug te koppelen op Isabelle. Je zit met het kapitalisme. Het gaat niet om het welzijn van een kunstenaar. Of het welzijn van een persoon die er gebruik van maakt. Of hoe jij de wereld wil verbeteren, whatever. Het gaat om het welzijn van de portemonnee van de aandeelhouder erachter.’

Volgende keer gaan we verder met de discussie of je als AI gebruikende schrijver nog wel serieus genomen wordt, wat de juridische gevolgen zijn van generatieve AI en hoe kunst zal veranderen.

AI-gegenereerd beeld

Bronnen:
Turboscribe
Human Rights Watch over killer robots
Militaire drones in de Correspondent
De VS willen geen regulering omtrent killer robots
Rol van imitatie
Analyse van toekomstige oorlogsvoeringstrends
Artikel van Eliezer Yudkowsky
Open brief van het Future of Life Institute
Her
Europese benadering AI
Experts waarschuwen, artikel RTL

 

© 2020 – 2024 Fantasize, Antoni Dol, Charles van Wettum, Marleen Dolman & Sandy Butchers

You cannot copy content of this page