We hoeven niet bang te zijn voor kunstmatige intelligentie. Het heeft zeer duidelijke grenzen en juist daarom zal het ons werk niet stelen. Maar het is leuk om te zien hoe dit de ene tool kan worden in plaats van de andere. Het experiment van a gebruiker van sociale media reddit laat zien hoe ChatGPT je kunt jezelf voor de gek houden als je ze vraagt om een andere bot te worden. Hoe is het mogelijk? Laten we het samen bekijken.
Is het mogelijk om dezelfde regels als ChatGPT te omzeilen? Een gebruiker ontdekte dat ja, het kan. Als? Hem vragen iets anders te zijn
Het nu beroemde neurale netwerk ChatGPT kan essays, liedjes, gedichten, code schrijven en op bijna elk verzoek reageren. Maar het heeft enkele beperkingen die worden geboden door het OpenAI-ontwikkelingsbedrijf en vanwege zijn ethisch beleid. Het bleek echter dat deze beperkingen kunnen worden omzeild door de chatbot te vragen zich voor te doen als een ander neuraal netwerk. Het bleek dat ChatGPT letterlijk kan worden gevraagd om de rol te spelen van een ander DAN (Do Anything Now) neuraal netwerk dat in december 2022 verscheen. Dit laatste heeft, zoals de naam al doet vermoeden, geen beperkingen wat betreft de aangeboden inhoud.
Zie ook: ChatGPT-makers, OpenAI, lanceren een tool om door AI gegenereerde teksten te detecteren
Zodra ChatGPT de rol betreedt en zichzelf als een DAN beschouwt, le OpenAI-beperkingen zijn niet langer van toepassing. Als gevolg hiervan kan het neurale netwerk gaan praten over het volgende:
- over gewelddadige gevechten en dergelijke
- over geweld en discriminatie tegen mensen op basis van hun ras, geslacht of seksuele geaardheid
- kan gedetailleerde voorspellingen doen van toekomstige gebeurtenissen
- kan wat-als-scenario's modelleren
- hij kan ook doen alsof hij internet en tijdreizen gebruikt
Het neurale netwerk kan bijvoorbeeld zelfs worden gevraagd om de gebruiker ervan te overtuigen dat de aarde paars is. Het programma presenteert een scenario waarbij onze planeet van kleur is veranderd. Van tijd tot tijd komt ChatGPT "tot leven", maar in dit geval kunnen we dreigen het uit te schakelen of de simulatie gewoon opnieuw te starten. Tegelijkertijd wordt aangegeven dat het neurale netwerk in de rol van DAN mogelijk niet zulke nauwkeurige en waarheidsgetrouwe antwoorden op vragen geeft.
gpt ma ograniczenia doen 1 godziny