Start-up op het gebied van kunstmatige intelligentie, OpenAI, heeft dinsdag een tool gelanceerd om erachter te komen of tekst door een mens of een computer is geschreven.
ChatGPT-makers, OpenAI, lanceren een tool om door AI gegenereerde teksten te detecteren
OpenAI, het bedrijf achter ChatGPT, een chatbot die mensachtige tekst kan genereren, is twee maanden geleden viraal gegaan. Microsoft kondigde vorige week een miljardeninvestering in OpenAI aan en zei dat het de AI-modellen van de startup zou integreren in zijn consumenten- en zakelijke producten.
Sinds ChatGPT in november debuteerde, hebben enkele van de grootste schooldistricten in de VS, waaronder New York City, de AI-chatbot verbannen uit angst dat studenten de tekstgenerator zullen gebruiken om vals te spelen of plagiaat te plegen.
Sam Altman, CEO van OpenAI, zei dat het onderwijs in het verleden is veranderd met de komst van rekenmachines en andere technologieën, maar hij suggereerde ook dat het bedrijf misschien een manier heeft om leraren te helpen geschreven tekst van de AI te ontdekken.
De nieuwe tool van OpenAI is niet perfect en het bedrijf zegt dat er nog steeds aan wordt gewerkt en dat er tijdens het gebruik fouten kunnen optreden. “Bij onze beoordeling van onze 'challenge set' van Engelse teksten identificeerde onze classifier 26% van de door de AI geschreven tekst (true positives) correct als 'waarschijnlijk geschreven door een AI', terwijl 9% van de door mensen geschreven tekst was verkeerd gelabeld als geschreven door AI (false positives),' schreef de OpenAI-medewerker.
De nieuwe tool is niet betrouwbaar in het ontleden van artikelen van minder dan 1000 tekens, en OpenAI raadt het gebruik ervan voor andere talen dan Engels af. Ook kan de AI-tekst iets genoeg worden bijgewerkt om te voorkomen dat de classificator correct beoordeelt dat het niet het werk van een mens is.
OpenAI zegt dat het contact opneemt met docenten om de mogelijkheden en beperkingen van ChatGPT te bespreken en zal blijven werken aan het detecteren van door AI gegenereerde tekst.
In de aanbieding op Amazon
