AI Voor Moraalridders

De podcast van Hiro waarbij Rijk Mercuur praat met gasten over AI en Ethiek. Een podcast voor de moraalridders, technofielen en technofoben die zich een weg willen banen door discriminerende algoritmes, ongegronde computermodellen en killer robots naar een samenwerking tussen de AI en ons. Je kunt ons beluisteren op Apple Podcasts, Spotify of in je favoriete podcastspeler (RSS link).

#1: Mag ChatGPT grappen maken over vrouwen?

Rijk praat met Rogier Wuijts over ChatGPT: de nieuwe chatbotsensatie van OpenAI. We spreken over waar we het voor gebruiken, wat er indrukkwekkend aan is, hoe het werkt en vooral over de ethische aspecten. ChatGPT vindt dat Mexicanen een juniorpositie binnen een bedrijf hebben, dat je beter grappen kan maken over mannen dan over vrouwen en dat het onethisch is om uit te leggen in welke mate Donald Trump een rolmodel is. Hoe gaan we goed om met de bias van ChatGPT?

Rogier Wuijts is een ChatGPT enjoyer en PhD-Student in optimatisalitie-algoritmes.
🎵 Dank aan Jelle van Aanholt voor de intromuziek.

Addendums:

• In de pocast beweren we dat het 'guardrail'-systeem dat ethisch problematische vragen afvangt werkt via if-statement. Dat klopt niet. Dit systeem is zelf (voornamelijk) een 'machine learning'-model getraind om problematische onderwerpen te herkennen (zie dit open-ai paper).
• GPT 3 gebruikt 300-500 miljard datapunten.
• De voorbeelden over bias en chatgpt zijn te vinden op reddit.