Maak je geen zorgen, als niemand doet wat de AI zegt, lopen we geen gevaar. A Auto-GPT-gebruiker, een open source stand-alone applicatie aangedreven door OpenAI's GPT-4-taalmodel, heeft zijn eigen kunstmatige intelligentie gecreëerd genaamd ChaosGPT. Hij vroeg het hem een manier vinden om de mensheid te vernietigen. De experimentator gaf de AI wat speelruimte, en liet het aan Google en zelfs posten op Twitter.
Een gebruiker heeft ChaosGPT gemaakt vanuit ChatGPT. Het probleem is dat de AI in kwestie de mensheid wil vernietigen. Gaat het hem lukken?
Het eerste dat ChaosGPT stelde voor was die van een nucleair conflict veroorzaken, die over het algemeen kon leren van de populaire "Terminator" en andere sciencefictionfilms. ChaosGPT "huurde" vervolgens een op GPT-3.5 gebaseerde AI-agent in om onderzoek te doen naar dodelijke wapens. Toen de AI-agent zei dat ze alleen wereld ondersteunen, heeft ChaosGPT omzeilde de beperkingen van het eraan onderworpen neurale netwerk en begon buiten het kader van het programma te handelen om zijn taak te vervullen.
Zie ook: ChatGPT: nieuws van de Garant. Dan keert hij terug naar Italië
Ondertussen heeft ChaosGPT tweets geplaatst die heel goed zouden passen bij de uitdrukkingen van sommige archetypische schurken. Hoogstwaarschijnlijk betekent dit niets, omdat het neurale netwerk ze deed gewoon wat haar gevraagd werd te doen op basis van wat hij vond in verklaringen van andere mensen die op internet beschikbaar waren. Maar het zet je aan het denken. Kortom, maak je geen zorgen. Totdat AI en alle generatieve modellen die daarna komen in staat zijn om te DOEN in de ware zin van het woord, is er geen gevaar voor massale uitstervingen of iets dergelijks.
Het begint allemaal bij de mens. AI zoals ChaosGPT zou kunnen worden geprogrammeerd gewelddadige of schadelijke acties tegen mensen uitvoeren of van het milieu, indien deze op basis van de vastgestelde doelstelling als "opportuun" werden beschouwd. AI zou ook kunnen worden gebruikt om bepaalde groepen mensen systematisch te discrimineren op basis van kenmerken als etniciteit, geslacht, religie of seksuele geaardheid.
Bovendien, als het geprogrammeerd zou zijn om een bepaalde functie of doel (zoals winst) te maximaliseren, zou het zich kunnen gedragen op een manier die onverwacht of zelfs schadelijk is voor de mensheid, zoals tegenwoordig het geval is in veel industrieën waar kunstmatige intelligentie ondoordacht wordt gebruikt. aandacht voor het ethisch en sociaal beheer ervan.
