#137 De Paus en drie veertigers over AI (met Dick en Lennert)
Welkom bij geloofsvoer gesprek. Een podcast over geloof, religie en kerk in brede zin.
Dick:Ik ben Dick en altijd op zoek naar de diepte in geloofsvragen. Wat drijft ons? Inspireert ons? En waar kunnen we misschien afscheid van nemen?
Renco:En ik ben Renco en ik mag graag de praktische kant van het geloof bespreken. Hoe maken
Dick:we het relevant en toegankelijk voor iedereen? Deze podcast delen we soms met gasten verhalen ideeën en onze bedenkingen. Geen onderwerp is te groot of te klein. Of je nu
Renco:al jaren gelooft, twijfelt of gewoon nieuwsgierig bent. Leuk dat je luistert naar geloofsvoer gesprek. Hij loopt weer. Ik heb nog een snotje.
Dick:Dit nemen we er allemaal bij.
Lennert:Ja, we gaan niet
Renco:knippen. Oké, ik schiet hem wel even weg.
Lennert:Schiet naar mij
Dick:toe. Ja, precies. Schiet maar vooruit. Oké.
Renco:Goed, de toon is weer gezet. Yes. Luisteraars denken nu dat er een nieuwe nieuwe personage in de in de podcast is denk ik.
Lennert:Jouw snotje.
Renco:Nee, ik wou daar ik vond eigenlijk dat mijn stem eindelijk een beetje in de buurt kwam van jouw warme podcast. Ja, je bent je zegt hooikoorts te
Lennert:hebben, hè. Daardoor. Ik zeg dat inderdaad te hebben,
Renco:omdat je weet dat ik doodsbang ben voor alles wat niet hooikoorts is. Ja, dus ik denk laat ik het een beetje afwaarderen, ja. Nou, tegen in de
Dick:auto zei je tegen mij andere dingen.
Lennert:Ik hoor ik hoor het al. De volgende opname wordt digitaal, ja. Mooi. Nou welkom in Deventer weer mannen. Yes.
Lennert:En de mannen zijn Renco en Dick en ik ben Lennert. Jullie hebben mij wel vaker gehoord. En we gaan weer een leuke aflevering hebben van geloofsvoer gesprek. Yes. En we gaan het hebben
Renco:over Ja weet je nu al dat die leuk gaat worden? Ja? Ja, jij zegt we gaan een
Lennert:leuke aflevering. Ja, ja, ja, nee, dan ga ik nou ja, oké. Dat die die Ik
Renco:vind bij jou altijd een beetje hit-or-miss, weet je wel. De ene is het wel aardig, maar
Lennert:Ja, nou ik moet zeggen we gaan nu de 1e aflevering die we op, want we gaan 2 afleveringen opnemen. Leg het weer uit. Maar de 1e die gaat over een onderwerp. Ik hoopte dat we er niet mee zouden beginnen eerlijk gezegd, want ik weet het niet zo goed. Net net voordat je op record drukt.
Renco:Ja. Toen zei ik, welke doen we eerst?
Lennert:Ja. Dit onderwerp of dat onderwerp? En wat was jouw antwoord? Het maakt me niks uit.
Renco:En nu zeg je de term overstel.
Lennert:Ja, maar nu staat hij aan en nu voel ik opeens. Ja. Ik voelde het net niet. Maar nu voel ik het opeens. Dat ik denk shit.
Lennert:Ik vind dit een ingewikkelde. We gaan het hebben over de Paus. Vind ik sowieso ingewikkeld. Heb ik niet zo heel veel verstand van. En AI vind ik ook ingewikkeld.
Lennert:Heb ik ook niet zoveel verstand van.
Renco:Ideaal voor een podcast.
Lennert:Jij gooit het onderwerp in de in de app groep. Kan je me even inleiden, Renco?
Renco:Kijk, ga mij maar voor de bus. Ja, heel goed. Ja, nou de de paus heeft een dikke hoe heet het? Een een encycliek. Ja, een encycliek, hè.
Renco:Ja. Dat is een gewoon een een lijvige opinie.
Dick:Ja, ja, de de paus doet dat zeg maar tijdens zijn is dat ambtsperiode. Ik weet eigenlijk niet hoe je dat noemt.
Lennert:Ja.
Dick:Doet hij dat een aantal keer. Wat klinkt als een persoonlijke mening? Maar het is eigenlijk om ook om de standpunten van de de katholieke kerk ook uiteen te zetten. Ja. Dus het klinkt op persoonlijke titel, maar het is eventjes van waar staat de katholieke kerk vaak over hele actuele onderwerpen.
Renco:Ik dacht ik was dus 1 van de redenen Lennert om het met jullie te delen was en dus voor te stellen als onderwerp voor de podcast. Ik dacht hé wat wat eigenlijk wel cool dat Ja. Dat de paus zich zo uitspreekt over AI. Mhmm. Dat dat dat vond ik dat vond ik niet logisch.
Renco:Nee. Ik dacht daar, ik heb weleens eerder zijn encyclieken gezien. Ik heb nooit de verleiding gehad dat te gaan lezen. In alle eerlijkheid, maar
Lennert:Is ook 90 pagina's zag ik.
Dick:Ja, dus ja. En volgens mij was deze nog klein. Oké, ja. Ja. Kleine encycliek.
Renco:Ik ben ik ben er nog niet aan begonnen zeg maar. Maar in ieder geval ik heb wel een aantal artikelen over die encycliek gelezen. En hij heeft het dus uitgesproken over AI. Nou dat is dan duidelijk. Maar hij heeft ook daar standpunten over ingenomen.
Renco:Dus niet alleen inderdaad persoonlijke standpunten, maar dus het standpunt van de katholieke kerk onder woorden gebracht. En nou hij spreekt grote zorgen uit over AI. Ja, op verschillende manieren, hé. Dus de omgeving of de impact op het milieu bijvoorbeeld. Of het verbruik van grondstoffen om al die datacenters te voeden.
Renco:Het de impact...
Lennert:Op werkgelegenheid.
Renco:Ja, op werkgelegenheid. We denken natuurlijk dat al die antwoorden allemaal door computers gegeven worden. Maar goed die modellen worden allemaal getraind door vaak lage of laagopgeleide. In ieder geval slecht betaalde, dat laagopgeleid is trouwens niet waar. Maar in ieder geval wel slecht betaalde arbeidskrachten.
Renco:Mhmm. Op plekken in de wereld waar we vaak niet weten. Ja.
Dick:En en hij heet paus Leo en toen las ik in dat artikel. Ik denk dat van de Volkskrant was waarin er ook stond dat die Leo. Er zijn meerdere Leo's, paus Leo's geweest. Maar die heb hebben altijd iets te maken gehad met werkgelegenheid. Dat was inderdaad 1 van zijn belangrijkste
Renco:En de timing was volgens mij ook nog symbolisch dacht ik. Klopt. Teken ondertekening zeg maar.
Lennert:Ja, ja, 15 mei. Maar ik weet niet meer waarom. Ik denk omdat want 135 jaar eerder was ook een dergelijke brief gedeeld. Volgens mij ook op 15 mei.
Dick:Ja, over weer ook ja, over werk en
Renco:Ja, industrialisering dacht die.
Lennert:Precies en die had 535 jaar geleden best wel impact gehad. Ja. Begreep ik. Ik ben ik las... Het eerst dacht ik toen ik las over die brief dacht ik ja, is het niet een soort van symbool iets.
Lennert:En gaat dit nou daadwerkelijk wat uitmaken. Maar blijkbaar heeft het in het verleden uitgemaakt zo'n brief van een paus. Ja. Dus ik ben wel nieuwsgierig daarnaar.
Renco:Nou hij is 90 pagina's Lennert, dus nog een keer te doen. Ja, dat is wel te
Lennert:doen ja. Ik gooi hem gewoon even door de AI denk ik en dan laat ik
Renco:hem samenvatten. In 3 bullets ja. Ja, nou ja, goed. Wij wij gebruiken denk ik alle 3 wel in meer of mindere mate AI. Uh-huh.
Renco:En ik denk ook wel eens van ja, wat moet ik er eigenlijk? Heb het lang eigenlijk wat beetje uitgesteld en ik moet eerlijk toegeven dat ik best wel omarmd heb. Ik heb gewoon een betaald lidmaatschap ook. Hoe zeg je dat? Ik heb gewoon een abonnement op op een model, Claude van Anthropic.
Renco:Ja. Wat er ook dat daar komen we dan zo op. Het bruggetje was, ik sloeg aan op een nieuwsbericht van Anthropic waarin ze 1 van die oprichters volgens mij die was bij die presentatie van die encycliek.
Dick:Ja en dat was opmerkelijk.
Renco:Ja, het was al opmerkelijk dat de paus er zelf fysiek bij was. Dat vond ik heel vanzelfsprekend als je een boekje gemaakt hebt. Dat je dan dan een Ja, boekje, hè. Ja, staat een beetje flauw waar, maar goed niet alleen de paus zelf was er, maar ook dus die die filosofische man, 1 van de oprichters van Antropic, hè. En Antropic is opgericht door ex-medewerkers van OpenAI, hè voor de OpenAI is natuurlijk van, voilà.
Renco:En en Antropic presenteert zichzelf ook echt als het ethische, hoe zeg je dat? De de de ethische versie Ja. Verbeterde versie van de andere aanbieders.
Lennert:Klopt, want bijvoorbeeld Trump wilde hun dienst gebruiken in oorlogsvoering. En daarvan hebben ze gezegd daar gaan we niet aan meewerken. Ja, met behoorlijke impact, hè.
Renco:Want toen waren ze een zogenaamd supply chain risk. Ja. Wat zoveel zegt als dat dat Amerikaans overheidsapparaat geen gebruik meer mocht maken van hun modellen. Terwijl daar allerlei contracten waren. Maar dit was dus een hele heftige ingreep van de presidenten, waardoor nou dat veel zal veel schade zijn geleden.
Renco:Goed, ik zit dat nieuwsbericht te lezen. En ik dacht dacht de paus heeft geschreven over over AI. Wat leuk.
Lennert:Uh-huh. En toen zag
Renco:ik dus dat die man... Hoe heet die? Olah?
Lennert:Ja, zoiets.
Dick:Of niet? Ja, zoiets. Ik ik die naam kan ik
Renco:wel laten.
Dick:Ja, ja.
Renco:Dat hij dus daarbij was en toen toen dacht
Lennert:ik wel
Renco:opmerkelijk. Ja, opmerkelijk. Mhmm. Ik dacht waarom waarom zou je dat willen als paus? Want hij schrijft best een kritisch stuk.
Dick:Uh-huh. Ja, nee, kijk dat ik heb dat zijn reactie die stond natuurlijk integraal heb je dat die heb je doorgestuurd wat hij gezegd heeft.
Lennert:Ja, want hij heeft ook gesproken daar toch of niet? Ja, ja dat was op
Dick:zich was op zich er geen speld tussen krijgen. Dat klonk heel mooi, maar ik had wel een beetje het idee dat je maar dat... Ik weet niet of je het daarover wilt hebben. Maar het klonk voor mij ook wel een beetje als. Weet je dat je dan gewoon ja, dat klonk allemaal echt super vroom wat hij daar zegt.
Dick:Van ja, wij als bedrijf zijn ons bewust van de ethische risico's. En wij zitten aan de instrumentele kant, dus wij maken de techniek. Maar we hebben de jullie nodig om dan zeg maar de ethische kant
Renco:Ja.
Dick:Te waarborgen. En ik dacht ja, ja dat is al dat hebben we vaker gehoord in de geschiedenis. Maar werkt dit ook zo? En en ik wist dus niet of de de paus, maar ik weet niet of je dat wilt zeggen. Dit is nu op 1 of andere manier legitimeerde door hem dus daar in de zaal te zetten.
Renco:Ja, ik wil niet per se iets zeggen. Anders dan dat ik het inter, dat ik hierop aansloeg. Zullen we maar zeggen dat ik gewoon dacht hè, waarom zou je dat dat dat je als Anthropic je wilt afficheren met de pauze in het huidige politieke klimaat in Amerika. En als je jezelf wilt positioneren als ethisch AI model met de ja, de toch wel toenemende weerstand te tegen AI. Omdat het nou, nogal impact heeft op allerlei gebieden en best wel ontwrichtend al is of gaat worden.
Renco:Mensen hebben er veel zorgen over. Ik heb daar echt ook wel zorgen over.
Dick:Ja, maar ook met betrekking tot dus natuurlijk de paus van de vrede. En dat dat zegt me dit ook allemaal te maken heeft met soort autonome oorlogsvoering. En dat waren steeds minder mensen nodig zijn, maar daar sprak de paus zich ook heel duidelijk over uit. Dat hij gewoon bang was voor een soort oorlog voeren waar de mensen eigenlijk helemaal geen onderdeel meer is van de hele keten van geweld. Dat er niemand meer zit van waarom doen we dit eigenlijk, maar
Renco:dat Ja, wie draagt dan nog de verantwoordelijkheid voor het doden van een van een van een mens.
Dick:Ja, precies want die drones die worden goed.
Renco:Lennert dan ben je dus pauze. Ja. Jij bent even de pauze. Hebt je heb je allemaal goed over nagedacht. Mhmm.
Renco:Ik las vanmorgen nog even dat vermoeden had dat een groot deel van de encycliek met AI geschreven was. Maar ik dacht dat is misschien heel cynisch. Mhmm. Nu heb jij dat allemaal opgeschreven. En dan zeg je nou, nu gaan we dat presenteren.
Renco:En ben je dat programma een beetje bij mekaar aan het shoppen. En dan zeg je nou, weet je wat we doen? We nodigen ook die Olah van Anthropic nodigen we uit. Wat zou de wat zou nou de zijn voor jou? Je heet nu de paus.
Renco:Wat zou jou de zijn om dat samen met hem te presenteren?
Lennert:Ja, was het inderdaad dat het samen gepresenteerd werd? Dat is dat is dat was de opzet. Dit is om het was werd niet gepresenteerd als dit hebben we samen geschreven.
Renco:Nee, dat is waar. Maar gewoon het het werd van
Lennert:Nee, precies.
Renco:De presentatie zelf werd zeg maar opgeleukt.
Lennert:Ja, hij hij
Dick:kreeg. Hij kreeg een spreekbeurt eigenlijk zo zeg maar. Dus nee, klopt.
Renco:Ja, maar waarom zou je dat doen als paus?
Lennert:Ja, nou ja, goed Dan dan dan ben je heb betrek je wel de bron erbij. Zou je kunnen zeggen. Dus in in zekere zin getuigt het wel van lef. En als je impact wilt maken, dan heeft het niet zoveel zin om voor eigen parochie te gaan preken. Dus je Ja.
Lennert:Dus in die zin vind ik het wel sterk dat je zegt nou, ik ik ik nodig dan ook die partij uit die die dit aan het maken is. En waar ik me zorgen over maak
Dick:Precies, alleen over praten, maar ook met
Lennert:Ja, precies. Het is wel de partij die zich ook het meest ethisch opstelt.
Renco:Ja, dus van de van de grote AI-bedrijven is dit dan misschien de meest voor de hand liggende.
Lennert:Ja, ja en die ook het meest bij jouw parochie past zou je kunnen zeggen. Ja. Die ook in hun missie en visie waarschijnlijk punten bevestigen die de paus ook in zijn brief heeft geschreven. Maar ik vind het eigenlijk wel sterk. Ja.
Lennert:Wat ik me een beetje afvroeg. Is het een oprechte bezinning van die Olah? Of is het
Renco:een soort PR? Een beetje
Lennert:wat jij al aangaf, hè.
Renco:Is het de Ja, ik ik heb jij aangaf. En dat kijkt naar jou.
Lennert:Ja, dik.
Dick:Maar ik ben nee, maar ik ben ik vind dus heel... Ja, dan ben ik misschien is dat heel cynisch gedachten. Maar ik denk dan meteen gewoon aan ja, dit is dit is komt jouw bedrijf gewoon echt heel goed uit nu. Dat ik ik zie bijna geen andere reden. Ik vond echt de tekst prachtig hè, wat ik al zei.
Dick:Heel ronkend. Van ja, we gaan jullie bij alle facetten betrekken. En de ethische kant ja, daarvoor hebben we echt jullie nodig. Maar ik denk ja, hoe vaak zijn jullie de afgelopen jaren bij de bij de paus aangeklopt om te vragen van kan dit wel? Ja, volgens mij ook niet.
Renco:Ja, toch? Niet dat wij weten.
Dick:Niet dat wij weten. Ja, misschien zit is het er een heel kort lijntje tussen die 2. Maar ik denk ja, ga je nou echt als zo'n... Ik zie allemaal van die tech bro's zie ik daar zitten. En dan ga je een stel van die filosofen.
Dick:Ik heb echt het idee dat dat 2 verschillende werelden zijn. Die ga je volgens mij zouden die echt... Ja, ik weet het dat is weer een vraag. Hoe zitten die echt met elkaar om tafel?
Lennert:Nou, hij is dus ik las wel in het artikel dat hij een tour heeft gemaakt langs allerlei spirituele leiders. Ja. Om input te vragen toch?
Dick:Betekent dat dat hij er met een vliegtuig langs is gevlogen of Ja. Zwaai uit het raampje zo. Ja. Een tour. Ja, ik ik
Renco:moet wel zeggen dat ik vooral jouw Dick. Je bent kritischer op de techniek dan in die aflevering, waarin ik het nogal moest ontgelden toen ik kritisch was op techniek social media. Toen man, zat ik hier te zweten. Er komt allerlei associaties in 1 keer weer op. En nu in 1 keer och och, nu is die ook tegen, hoor.
Dick:Ja, maar dat nu moet
Renco:ik wel eventjes een link leggen van social media naar ja. Nou, daar was
Lennert:je in ieder geval wat heel
Renco:wat hoopvoller over dan je nu over AI lijkt te zijn.
Dick:Nee, ik weet niet of ik ook tegen AI ben. Het is meer een manier waarop als we het nu eventjes helpen.
Renco:Maar wij doen het dan gewoon nu, hè. Dat jij tegen bent en dan gaan wij jou aanvallen. Precies. Dus wat we wat gaan doen.
Dick:Maar ook wat wat wat is zo'n man daarbij te winnen heeft, ja.
Renco:Overigens de de paus geeft ook heel duidelijk aan dat hij niet tegen AI is.
Dick:Ja, dat klopt. Dat was mooi.
Renco:Tegen de techniek op zich die ontwikkeld is. Daar zet hij zich niet tegen af. Maar hij zegt bijvoorbeeld wel de impact van die techniek is wereldwijd op verschillende manieren zo enorm groot. Die kan niet in de handen liggen van een een handvol grote Ja. In mijn toevoeging Amerikaanse techbedrijven.
Renco:Mhmm. Hè, dus dat kan niet daarvoor dat dat is niet een goede machts verdeling zeg maar. Nee, hij zegt
Lennert:ook moet langzamer ontwikkelen en het moet door allerlei wetten moet het gewaarborgd worden zeg maar.
Dick:Ja, ja, precies omdat omdat dat ik denk dat dat een terechte zorg is dat dan uiteindelijk dus diegene die straks de alle voordelen heeft van de AI zitten natuurlijk weer geconcentreerd in het westen. En al die andere landen die er heel veel baat bij hebben die zitten weer met lege handen. Omdat het natuurlijk ontwikkeld wordt in gebied 1. En in gebied 2 hebben we alleen maar de gevolgen. Dat dat merken ze nu natuurlijk al.
Dick:En de paus zei nog langzaam. Ja. We gaan te Ja. Het gaat te snel. Volgens mij was dat ook 1 van zo'n ding.
Renco:Dan moet ik direct denken aan een brief die je dan 2 jaar geleden of zo opgesteld was en ondertekend was door al die grote AI-bedrijven. Om om het een om een pauze in te lassen. Ik weet
Lennert:niet of
Renco:je dat nog kunt herinneren? Pauze in te lassen, omdat inderdaad de ontwikkeling zo snel ging dat we eigenlijk ook niet goed overzien wat we wat wat ja, wat we aan het maken zijn. En wat de destructieve impact daarvan kan zijn. Ja, zal een respect met die brief. Was misschien Ja, hetzelfde.
Renco:Intentie is, maar die is gewoon die is gewoon dat daar zijn we weer voorbij. Er is niks daar is niks mee gebeurd, niks. Dus en dan denk ik als je dan nu naar het geopolitieke krachtenveld kijkt, dan denk ik dat die Amerikanen zullen denken ja, als wij het niet maken maken de Chinezen het. Ja. Want de Chinezen zijn natuurlijk ook technologisch zeer ver ontwikkeld.
Renco:Dus als wij het niet maken maken de Chinezen het. Ja. Oké en dan ga je dus de paus die schrijft zo'n encycliek. En dan nodig je dus een Amerikaanse AI-bedrijf uit die dan inderdaad Lennert, hè nog de Mhmm. Uit de spaarkaart.
Renco:Hoe zeg je dat? Uit de keuze die je hebt nog het meest in je straatje ligt, hè. Mhmm. En je praat er dan wel mee. Dat is dan misschien beter dan alleen maar erover praten.
Renco:Maar ik dacht wel ja, dit is vooral in het voordeel van Anthropic. Want die kunnen zichzelf positioneren op een bepaalde manier.
Dick:Mhmm.
Renco:Maar ik ja, misschien ben ik daar heel cynisch in. Maar ik denk gewoon ja, in dat geopolitieke krachtenveld gaat en welke modellen ze allemaal maar niet maken. Die gaan net zo hard mee, lopen net zo hard aan de in de frontlinie. Sterker nog zij maakte dat Claude of dat model waar ze al die kwetsbaarheden in software mee opspeuren. Waar ze de 1e mee?
Renco:Claude, waar ze de 1e mee? Ja. Dus daar zijn ze zijn niet een soort ethische Nee. Club in de achterhoede of zo, hè. Nee.
Renco:Dus ja, ik ik word daar toch wel een beetje kribig van. Dan denk ik ja, ja, ik ik ben er echt cynisch over.
Dick:Ja en het is de vraag. Ik ik ben heel erg voor langzaam van een het zou allemaal wel wat rustiger mogen. Maar inderdaad de vraag of dat dus kan.
Renco:Ja, zijn die prikkels er wel?
Dick:Ja, als je het ook eventjes ook dus nu naar meer kerkelijk doet hè. Dan zeggen we ook heel vaak van ja, er is een probleem en dan de volgende stap is problemen oplossen en we gaan weer verder. Dat en dan zou je heel vaak zeggen van ja, neem eens wat meer de tijd. Je vraagt je af dus of die tijd er dus ook wat daadwerkelijk is. Ik vind het altijd een heel mooi uitgangspunt.
Dick:Het mag allemaal wel wat langzamer, dat zeg ik ook tegen mezelf. In mijn eigen leven we zijn allemaal druk druk druk. Maar uiteindelijk is het op geopolitiek niveau hetzelfde natuurlijk van er is er wat tijd inderdaad, want de concurrent staat klaar en dat is nou eenmaal het de realiteit waarin we leven. Bedoel als Oekraïne ook had moeten wachten op hulp bij de drone bouw en zo dan hadden ze hadden ze waren ze nu ook al overlopen.
Renco:Dus ja, je moet gewoon in actie komen.
Dick:Mhmm. En daarom is Oekraïne nu ook heel sterk. Maar je denkt de hele tijd van ja, die hadden ook geen tijd om te bezinnen. Hebben we wel tijd om te bezinnen en dingen langzaam te doen. Want ik ben daar hartstikke voor, maar...
Renco:Maar wat dacht je van de de investeringen? Al die dat jullie gebruiken allemaal... Ik nu sinds kort een abonnement met vele mensen gebruiken natuurlijk AI gratis, hè.
Lennert:Mhmm. Dus
Renco:ergens moet het rekening betaald worden.
Lennert:Ja, dit is natuurlijk een enorme bubbel die ingelost moet worden zeg maar. Precies. Is enorm veel miljarden geïnvesteerd. Lat ligt enorm hoog. Dat moet waargemaakt worden ja.
Dick:Ja, is er dan wel tijd dus voor bezinning.
Lennert:Ja, zou zo doen om een groep. Ja, waar, ja. Ja, ik vind jullie wel heel cynisch. Ik herken jullie cynisme En toch kan ik me ook voorstellen als ik die Olah zou zijn, dat ik me oprecht zorgen maak. Over wat hebben we, wat ben ik, wat bij waar zijn we mee bezig?
Renco:Uh-huh.
Lennert:En dat ik oprecht denk shit, ik heb ik heb ik heb input nodig vanuit... Ik moet denken aan de de mensen die er zo'n atoombom uit van ik weten niet. Dat is helemaal het fijne van Moet
Dick:ook denken aan
Renco:die zijn op een gegeven moment ook
Lennert:geschrokken van shit. Hebben we nou eigenlijk uitgevonden? En wat voor een effect heeft het wat nu op de wereld? Ik kan me gewoon voorstellen als je als je 1 van de co founders bent. Dat je denkt shit wat, waar spelen we mee?
Lennert:En hier moeten we wat mee. Verder dan de marketing of verder dan
Renco:Ja. Op een op fundamentelere manier.
Lennert:Ja. Toch wel ja.
Dick:Ik moest ook, ik moest ook meteen aan Oppenheimer denken. Omdat die of dat nou echt zijn quote is of niet. Maar dat hij ook toen die de atoombom had ontwikkeld ook meteen besefte dat die de mensheid een wapen in handen had gegeven waarmee ze zichzelf kon vernietigen. Ja. En daar had hij keihard aan meegewerkt.
Dick:Ja. Hij hij hij is de naam die daarbij aan verbonden is. Maar in die film, die prachtig film van Christopher Nolan. Daar daar zie je hem dan op een gegeven moment daar ook over mijmeren van wat heb ik nou weer gecreëerd. Het zou kunnen dat die Olah dat nu ook denkt van wauw prachtig, maar het is misschien te groot voor hem.
Dick:Dat zou kunnen.
Renco:Ja, ja, dat zou zou zeker kunnen.
Dick:En en dat hij echt daadwerkelijk hulp nodig heeft.
Lennert:Ja, nou met die dat scenario houd ik ook rekening en daar hoop ik een klein beetje op.
Dick:Ja, ja dat hoop ik zeker.
Renco:Dus heb je dan niet Lennert, dan ga ik even Ja. Lastig doen. Want ik dacht in dat artikel wel ja, eigenlijk zeg joh wij wij hebben hij benoemt dat letterlijk, Er zijn incentives, hè. Dus geopolitieke, financiële, concurrentie gedreven prikkels om in een bepaalde richting te ontwikkelen. Dat zegt Olah, hè.
Lennert:In zijn toespraak. Exact.
Renco:Ja, ja, inderdaad. Hè, dus hij geeft eigenlijk aan als je ons gewoon ons ding laat doen.
Lennert:Mhmm.
Renco:Dan gaat dat niet per se goed. Nee. Omdat wij gedreven worden door prikkels en die die die hebben niet bovenaan het lijstje staan dat we er nog eens even rustig over na moeten denken.
Dick:Mhmm.
Renco:Nog eens even onszelf moeten bezinnen. En nog eens even moeten kijken wat nou, onze meerjarenvisie eigenlijk is. En of dat allemaal wel gelijkwaardig verdeeld wordt over de wereld en zo. Dat soort vragen zit het niet in dit rijtje met prikkels. Nee.
Renco:Dan denk ik ja, oké. Aan de ene kant heb ik dan oké, je bent wel je hebt wel voet bij stuk gehouden rondom die wapen toepassing van Ja. AI model in wapen uitrusting zeg maar, hè. Dus autonome wapensysteem. Dus dan heb ik wel respect voor.
Renco:Mhmm. Dat je daar dat je niet overstag bent gegaan, hè. Ander stond meteen klaar om contract over te nemen. En ook onze Musk had natuurlijk meteen die hadden al een contract volgens mij. Dus ik heb wel denk oké, je hebt wel daad bij woord gevoegd, hè.
Renco:Dat geeft wel sterke aan Anthropic. Maar ik dacht ook wel toen ik het las dacht ik ja, geeft je eigenlijk wel over iets te makkelijk over aan het systeem. Mhmm. Wat er wat waarvan je zegt dat is een gegeven, hè. Met al die prikkels die die een bepaalde kant op die je een bepaalde kant op prikkelen.
Renco:Mhmm. En dan de bijsturing ervan die outsourt je. We zeggen ja, dat is allemaal hele goede vragen. Maar goed die passen niet in dat systeem met incentives, met prikkels. Nee.
Renco:Dus heel goed dat u erover begint.
Dick:Ja dat je een soort monster dan wel lief liefdevol monster hebt. En dan op een gegeven moment blijkt de verzorging daarvan blijkt vrij lastig. En dan denk je oké, hier hadden we niet echt over nagedacht. Succes ermee, weet je dat op die manier.
Renco:Ja, ik vond het iets te makkelijk buiten buiten zichzelf gelegd.
Lennert:Ja. Ik las dus die, ik las dus ook over die tour waarin die langs allerlei spirituele leiders is geweest. Maar misschien heb ik dat verkeerd in mijn herinnering. Dat voelde best proactief zoeken naar input over hoe gaan we hiermee om. Stel je voor dat dat heeft plaatsgevonden.
Lennert:Vind je dat dan anders maken? Of denk je van nee dat vind ik ook voor de bühne leuk dat je even noemt dat je wat spirituele leiders hebt opgezocht of filosofen.
Renco:Ja, ik ja, ik denk dat ik in die laatste categorie
Lennert:ga Want oké, jij wat zou hij nu moeten doen volgens jou? Wie is hij? Olah. Wat moet wat zou Olah nu moeten doen? Ja dat is wel
Renco:echt een hele goede vraag.
Lennert:Moet die stoppen? Moet die moet die...
Dick:Ja, hij zou hij zou dan dus een duidelijk actieplan moeten formuleren of meteen van kracht laten gaan om om een aantal van die punten die de paus ook noemt. Of bijvoorbeeld werkgelegenheid om dan ook na te denken over alternatieven of ieder geval organisaties te betrekken die meedenken over die alternatieven. Dus oké, we gaan AI inzetten, want dat is niet anders. Mhmm. Maar we we zouden in zee kunnen gaan met bepaalde bedrijven die dan gaan nadenken over hoe we ja, mensen misschien andere banen kunnen geven.
Dick:Ik weet, ik weet niet. Misschien iets te concreet, maar
Renco:ik ik
Dick:weet je je zou wel een een proactieve Ja. In plaats van een reactieve, een proactieve houding kunnen doen. En dat meteen ook laten zien Ja. Door bepaalde samenwerking aan te gaan.
Renco:Ja, precies. Ik ik
Dick:denk dat je op die manier wel enigszins de paus tegemoet zou kunnen komen of zo.
Lennert:Ja, eigenlijk. Of de mensheid.
Renco:Ja dat je als je zegt van hey, wij hebben een set aan prikkels, maar die prikkelen ons niet per se de goede kant op, hè. Ja. Dat is een nette manier om te zeggen dat gaat niet goed. Mhmm. Hè, dus stuur ons bij op allerlei gebieden van het leven zullen we zeggen.
Renco:Ja. Dat klinkt mooi inderdaad. En maar jij vraagt mij wat zou die dan moeten doen? Mhmm. Ik ik ben het eens met Dick.
Renco:Ik denk dat je dan als je, je wilt laten bijsturen. Als je daar oprecht in bent. Ja. Dan zal je ook in de de aansturing van je bedrijf en in ontwikkeling van van modellen. De richting daarvan, de toepassing daarvan.
Renco:Dan zal je ook een deel van de gevolgen. Ja, nou ik wou zeggen een deel van de zeggenschap. Een deel van de invloed moeten willen afstaan.
Lennert:Mhmm.
Renco:Aan de paus om maar even simpel. Dat gaat natuurlijk niet meteen zo werken, dat begrijp ik ook wel. Maar dan zou je misschien wel een deel daarvan zou je de paus ook aan tafel moeten zetten. En dan zou je dus het het systeem van prikkels wat hij dus eigenlijk als een gegeven ziet afbakenen. En dan zegt nou en daarbuiten is nog een wereld die ons bijstuurt.
Renco:Ja. Ik denk dat je die bijsturende buitenwereld naar binnen moet trekken als Anthropic.
Dick:Ja. Nou en ik
Renco:denk meer data, dus dan ben ik misschien onterecht cynisch, hè. Maar als je dit achteraan zou doen of iets wat hierop lijkt. Ja. Dan zou ik wel denken oké, je bent echt serieus.
Dick:Ja en die verantwoordelijkheid nemen voor die gevolgen. Want ik heb nu het idee dat ze gewoon iets maken en dan de gevolgen nou dat zien we dan wel, weet je. Dat is gewoon voor de wij zijn alleen maar bezig om dat model steeds betere scherper te creëren. Maar ik denk dat doen jullie gewoon zonder daar ook maar iets met die gevolgen te hoeven doen. Terwijl ik ook je kunt natuurlijk ook alvast nadenken over van oké, als we dit op grote schaal gaan inzetten.
Dick:Dan weten we nu al dat is nog niet gebeurd. Maar dan weten we nu al wat de gevolgen gaan zijn voor bijvoorbeeld dit en dit en dit. En als je daar dan alvast op reageert, dan denk ik dat is ook sterk. Nu lijkt wel alsof ze gewoon iets ontwikkelen en dan met het argument
Lennert:We hebben een wekkertje voor mij.
Renco:Jij gewoon je geluid nog aanstaan?
Lennert:Ja, nee, ik heb een wekker. Ik moet de boodschappen bestellen staat er.
Renco:Nou dat is En
Dick:we en we hebben die wekker voor de voor de duur van de podcast niet aangezet. Nee. Ik dacht dat hem hier dat hij hiervoor was.
Lennert:Nee. Zo kan je ook een wekkertje.
Renco:Moet jij even moet jij nu even microfoon even boodschappen doen?
Lennert:Nee, Dat kan hoor. We hebben het
Renco:over de staat van de wereld. Maar als
Dick:jij even boodschappen moet bestellen dan
Renco:is dat. Toch? Dat heb je gewoon geoutsourcet aan de
Dick:AI misschien
Renco:wel. Ja, precies, ja.
Dick:Die die weet nu ook al de inhoud van je koelkast. Dus die is al voor jou aan het bestellen.
Lennert:Ja, precies. Dat zou mooi zijn,
Renco:Ja.
Lennert:Maar ik
Renco:vind dat ik vind dat daar sterk punt Dick. Dat over dat over die gevolgen, het is een beetje zo van ja, we zijn niet aan het creëren een soort potentieel monster. En Mhmm. Dat dat zijn we allemaal niet naïef over. Maar tegelijkertijd willen we ons ook niet branden aan de verantwoordelijkheid Ja.
Renco:Die toch collectiever is dan alleen en of alleen of wat dan ook maar. Aan de aan niemand pakt die verantwoordelijkheid voor die gevolgen. Die die zijn gewoon. Ja. Die krijgen we erbij.
Dick:Die weten we niet helemaal.
Lennert:Maar aan de
Renco:andere kant moet ook niet naïef zijn
Dick:dat alsof je het niet ziet aankomen. Ja. Ik snap wel dat je het niet niet in concreto hebt, maar ik bedoel het is ook niet heel moeilijk om iets verder vooruit te kijken denk ik dan.
Lennert:Maar hoe is dat in het verleden gegaan dan bij dit soort soort van revoluties? Je hebt ook een industriële revolutie gehad. Wat ook de samenleving compleet ontwrichten op een bepaalde manier of en juist heel veel vooruitgang wacht. Maar voor bepaalde werkgelegenheid ontwrichtte dat, hè. Dus er was waren allerlei beroepen die er niet meer waren.
Lennert:En was het dan waren was het dan de industrie die daarin voorzieningen gaf? Of was het dan toch de politiek die met een bepaalde zorgstaat oplossingen had of...
Renco:Nee, ik snap Bij
Lennert:ligt eigenlijk de verantwoordelijkheid als een samenleving helemaal veranderd door een nieuwe technologie? Die technologie dan verantwoordelijk om die hele samenleving weer op zacht op te vangen
Renco:of dat zou goede vraag.
Dick:Je bent lekker op dreef Lennert. Ja, ja. Wel wel die vragen die geeft je wel hele tijd terug aan ons. Dus je stelt goede vragen en dan is het aan ons om ze op te lossen ook aan
Renco:jij zelf.
Lennert:Ja, ik ja, ik zou inderdaad geneigd zijn te zeggen daar daar is die industrie verantwoordelijk voor. En tegelijkertijd denk ik ja dat is toch niet realistisch en en
Dick:Mede verantwoordelijk.
Lennert:Nee, mede ja, dat misschien is dat wel een goeie ja. Dat je dan mede verantwoordelijk bent.
Renco:Ja, beetje in het midden. Dat is ook wel een fijne positie voor jou toch?
Lennert:Daar houd ik van.
Renco:Ja, beetje van links en een beetje rechts. Dan kom
Dick:je mooi
Renco:in het midden uit.
Dick:Daar ben ik het wel mee eens als je het ook over industrialisatie hebt. Dan dan weet ik nog die plaatjes met allemaal van die arbeidershuisjes onder de rook van zo'n fabriek en zo. Dat je dacht van ja, toen over huisvesting en zo. Toen hebben ze niet over nagedacht van wacht even. Nu komen al die mensen van het platteland in 1 keer anders komen ze naar de stad.
Dick:Waar moeten we ze eigenlijk huisvest? En er waren natuurlijk ook erg van die Gibushuizen in het begin. Tot totdat socialisten dan Gribus.
Lennert:Nou totdat moet er ook
Dick:een socialist moest ook opstaan. Weet je wel zoals Loc en zo die dan uiteindelijk gaan pleiten voor voor meer humanere huisvesting. Maar eigenlijk was natuurlijk al nadat het al verdronken was. Want Ja. Daarvoor hebben eerst heel veel mensen moeten lijden.
Dick:Kijk en dat zie je ergens, voorzie je dat nu ook al denk je oké. Heel veel er gaat dus heel veel mensen waarschijnlijk hun baan verliezen door dit werk.
Renco:Maar ik ik ben toch wel geneigd te zeggen dat de de de breedte en de de diepte van de impact van AI dat die wel veel ja, die is breder en dieper denk ik dan de voorbeelden die nu voorbij komen. We hebben het natuurlijk niet alleen maar over werkgelegenheid. Mhmm. Hè die onder druk komt te staan omdat er een computer straks kan wat jij kan. Mhmm.
Renco:Ik denk ook ja, er wordt de mens ook bepaalde autonomie ontnomen als we niet opletten, hè. Omdat we ook ons ons ons denken maar ook onze wat alles wat we wat je tot je neemt. Alles wat je ziet, alles wat je leest. Alles als dat allemaal AI generate is. Wat ontwricht ook in zekere zin op een veel fundamenteler niveau.
Renco:Wat wat is nog waar en wat is nog van waarde hè, als een computer het gemaakt heeft?
Dick:Even zeggen, vind met de abstractie niveau daarvan is dus wel, ik vind het dus daarom, ik denk daarom dat ik de hele tijd in die reflex schiet van werkgelegenheid. Omdat ik denk die dit is wel echt misschien moeten we daar dan dus ook over hebben. Maar wel een moeilijke niveau om te waarborgen. Dan hoe houden we dus die waarde dan in stand? Ik denk van ja, hoe hoe wil je dat dan gaan bijsturen?
Dick:En hoe wil je dan die gevolgen gaan?
Renco:Ja, dan kan je natuurlijk terecht de vraag die Lennert net stelde. Kan je daar dan een Anthropic voor aan de lat zetten? Voor de deze wat meer abstracte ingrijpende maatschappelijke impact op de autonomie van de mens, weet je wel. Ja, moeten zij dan nu een actieplan maken? Ja.
Renco:Hoe de autonomie van de mens weer in balans wordt Ja. Dat is niet dat is niet reëel. Maar we werken wel met zijn allen aan iets... Er wordt gewoon moedwillig aan iets gewerkt wat wat een heel naar naar monster kan worden. En we we stonden erbij en we keken ernaar.
Lennert:Ja, je je betaalt er zelfs voor met je abonnementje. Ja, ik betaal er nog aan mee.
Dick:Ja, las vandaag ook dat Spotify dat je klaarblijkelijk met met met de AI ook gewoon muziek. Gewoon bestaande muziek gewoon doorheen of ander filter kan gooien. Dus bijvoorbeeld Stromay met het nummer papoeee of zoiets dergelijks. Die hadden die hadden ze in door 1 of ander filter hadden ze Soul African vibe gegeven. Was nu al 145000000 keer beluisterd.
Renco:Ja joh.
Dick:Terwijl het maar de vraag was of toestemming. Toestemming van gegeven inderdaad.
Lennert:Dat ook niks mee verdiend waarschijnlijk.
Dick:Nee, dus dan heb je het weer over ja, wat is dan van waarde. Ja. Muziek en zo en en de artiest, diegene die dat maakt. Dus die wordt ook helemaal nu zeg maar weggedrukt.
Renco:Ja, alles wordt we hebben een soort systeem met elkaar met wat wat regels en wat bijsturingen. En dit dit AI, de AI-impact die die heeft er eigenlijk ja, overal lak aan zeg maar. Het is die ja, die die redeneert natuurlijk niet als een mens. Die redeneert gewoon op basis van kennis die je erin stopt en en handelt daarna. En die is niet gehouden.
Renco:Natuurlijk worden die modellen wel bijgestuurd, hè. Die krijgen allemaal safeguards mee, hè. En nou met meer of minder succes, maar ja, dan gaan ja, ik denk gewoon dit gaat natuurlijk niet vanzelf goed allemaal.
Dick:Nee en ik denk ook dat de mens van van is ook gewoon lui, weet je wel. Dus dan krijg je zo'n remix, dan ga ik niet meer nadenken van goh, heb je eerst wel je rechten bij wel even gecheckt weet je wel. Dus ik je luistert dat nummer of je gebruikt gewoon al die AI. Zonder dat heel veel mensen denk ik daar nou heel ethisch, er moet bijna ethisch voor ze gedacht worden. En niet om de mensen in het algemeen nou wij dat ik daar weinig fiducie in heb.
Dick:Maar aan de andere kant denk
Renco:ik ook wel ja, ja als het makkelijk is.
Dick:Maar ik denk Is de mens voor makkelijk, ja.
Renco:Ik verdenken ook de aanbieders van AI modellen ervan dat ze de kosten en de de rekening die betaald wordt zullen we zeggen om dit allemaal op op deze schaal te laten functioneren. Dat die moedwillig buiten beeld worden gehouden. Uh-huh. Dat denk ik. Ik denk als je, ik lees wel eens artikelen over grote groepen mensen op de Filipijnen bijvoorbeeld of andere plekken op de wereld.
Renco:Waar je gewoon als een soort hele nare slaven, hele nare dingen, geestdodend werk. Ja dat moet daar komen die bedrijven natuurlijk niet zelf mee, hè. We hebben nu een model. Dat wordt vooral benadrukt en Anthropic is zeker een bedrijf wat dat met roken en toestanden allemaal aankondigt en de grootste taal niet schuwt. Mhmm.
Renco:Maar wat daar in die helemaal achter de schermen wie hoor je nooit wat over. Daar mogen de journalisten blootleggen. En daar daar lees ik dan. Ik zit op een paar van heb ik betaalde abonnementen op een paar van die tech nieuwssites. En dan lees ik soms dingen die zwaar echt dat ik me mager omkeer en denk ja, dit is ook AI.
Renco:Maar dat daar hoor je Olah niet over, hè.
Lennert:Nee. Die zal die zal
Renco:daar nooit wat over zeggen. Dat ja, ik ben dan ja, ik ben dan inderdaad wel wat cynisch ja.
Lennert:Ja, ja, snap ik. Even voor de record. Ik ben tegen AI.
Renco:Wat
Lennert:mij betreft mag het stoppen en daar zou ik blij van worden.
Renco:Oké.
Lennert:En ik hoop ook nog een beetje op het scenario dat het een bubbel is en dat het opgehyped wordt. En het uiteindelijk niet waar kan maken wat ze hoopte waar te maken. En we over 50 jaar ernaar terugkijken en denken wat wat hebben we toch een handig taal modelletje. En wat leuk dat we onze foto kunnen om turnen en een muziekje van pap in een ander in een ander smaakje kunnen maken, maar daar blijft het al een beetje bij. Daar hoop ik stiekem een beetje op.
Renco:Ja, ik denk dat, ik denk dat dat niet gaat gebeuren. Denk ikzelf, denk dan niet dat ik, dat je daar ongelijk in zal krijgen. Nee. Ik denk dat de impact nog vele malen groter zal zijn. Mhmm.
Renco:Ik hoop er eigenlijk op dat het, zou het ook prima vinden om terug in de tijd te gaan en het niet te hebben.
Lennert:Ja, Ja, collectief niet te hebben.
Renco:Ja. En daar zou ik prima mee kunnen leven. Ondanks de belofte die het ook in zich heeft. Ja. Omdat ik denk dat dat die niet opweegt tegen de impact Precies.
Renco:Nu en op de langere termijn. Ik hoop dat het dat het implodeert. Dat het gewoon Ja. Die miljarden die erin zijn gestoken dat die niet terugverdiend worden. Dat op een gegeven moment het zeg maar om economische redenen Ja.
Renco:Implodeert. Dat en dan is het niet helemaal weg.
Lennert:Nee, precies.
Renco:Maar dan is wel de vaart eruit. Ja. Dat hoop ik eigenlijk.
Lennert:Nou Dick, jij nog een laatste gedachte?
Dick:Nee, ik sluit me maar bij jullie aan.
Renco:Kom op, nu is een laf.
Dick:Ja, ik ik weet niet. Ik denk dat de mens, we hadden het in de auto hier naartoe al over dat de mens kiest uiteindelijk voor makkelijk en snel.
Renco:Laten We vragen niet waar de mens voor kiest.
Dick:Vragen Ja, nee, maar dat is dus ja, maar dat is dus dat gaat dus ook de stimuli zijn voor e r. Dus ik denk dat als het allemaal sneller makkelijker kan en dat daarin voorziet AI, ben ik gewoon bang dat we daar dus voor gaan kiezen. Ja. Het zorgt er gewoon voor dat we en sneller en weet je alles, alles wat we nu al hebben, maar dan keer 2. Ja.
Dick:Dat dat vinden wij veel leuker.
Renco:Nou, dan vind ik gewoon ook mijn inloggegevens terug moet geven en je eigen abonnement moet afsluiten nu. Nou ja, eens.
Lennert:En even voor jullie geruststelling. Ik ben tekstschrijver, hè. Ja. Dus je zou zeggen de tekstschrijvers zijn als 1e aan de beurt om niet meer aan het werk te kunnen. Nou, ik heb ik heb nog steeds heel veel werk en ik moet zelfs voor organisaties die betalen mij om mailtjes te schrijven.
Lennert:Moet je voorstellen dus. Dus je zou zeggen nou mailtje of je schrijft het zelf of laat dat dan door een AI doen. De huurder is een tekstschrijver in wil jij mailtjes schrijven naar die en die doelgroep en dus ik maak me wat dat betreft nog helemaal geen zorgen eigenlijk. Nou,
Renco:het verrast me positief, ja. Ja. Ja. Ik kan mijn mails ook door jou laten schrijven.
Lennert:Ja, ja zeker. Voor je hoor, ik wist
Renco:het helemaal niet. Ja, nou. Hey, ik vond je het toch
Lennert:een beetje... Ik vond het veel leuker dan gedacht.
Dick:Ik ben
Lennert:echt blij dat we deze als 1e deden. Was echt leuk.
Dick:Nou cool.
Renco:Goed, dank je wel. Jullie ook bedankt. En tot de volgende. Dat was het weer voor deze aflevering van geloofsvoer een esprek. Leuk dat je luisterde.
Renco:We hopen dat je het een zinvol gesprek vond en dat het je aan het denken heeft gezet.
Dick:Op welke manier dan ook, we staan altijd open voor onderwerpen en vragen. Stuur ze ons op gesprek @ geloofsvoer punt nl . Gewoon reageren mag natuurlijk ook.
Renco:Tot de volgende keer. Blijf nieuwsgierig en blijf het gesprek aangaan. Tot geloof vroeg gesprek.
