Het algoritme van Instagram-rollen, onderdeel van de Meta-gigant, hij tilde zorgen over de veiligheid van minderjarigen. Een onderzoek van Wall Street Journal onthult dat het algoritme dat begon te doen door bepaalde verhalen van jonge influencers te volgen suggereren inhoud ongepast e seksueel, naast advertenties van grote merken. Kortom, Instagram toont inhoud voor volwassenen, zelfs aan degenen die dat niet zouden moeten doen.
Het controversiële Instagram-algoritme dat inhoud voor volwassenen (verboden) zelfs aan minderjarigen toont
De test, uitgevoerd door Wall Street Journal, waarbij betrokken was het aanmaken van accounts bedoeld om jonge influencers zoals gymnasten en cheerleaders te volgen, toonde aan dat het Instagram-algoritme inhoud voor volwassenen is gaan voorstellen, waaronder seksuele video's met volwassenen en minderjarigen, en advertenties van bekende Amerikaanse merken.
Uit het onderzoek kwam een alarmerende trend naar voren: de verhalen die deze jongeren volgden, werden blootgesteld aan een zorgwekkende mix van pornografie en materiaal dat kinderen seksualiseerde. Deskundigen op het gebied van algoritmische aanbevelingssystemen hebben benadrukt hoe dergelijke ‘niche’-inhoud sterkere signalen kan geven dan die van algemeen belang, waardoor het algoritme ertoe wordt aangezet ongepaste inhoud op gebruikers te richten.
Zie ook: Het geheim van Pulcinella wordt onthuld: miljoenen minderjarige gebruikers op Instagram
Het probleem van het verzamelen van inhoud voor volwassenen op Instagram het was intern bekend en het voorkomen van een dergelijke verspreiding vereist aanzienlijke veranderingen in de aanbevelingsalgoritmen. Uit bedrijfsdocumenten blijkt dat echter wel Het is beveiligingspersoneel grotendeels verboden wijzigingen aan het platform aan te brengen die het aantal dagelijks actieve gebruikers kunnen verminderen.
Als reactie hierop zei Meta dat het miljarden investeert in oplossingen op het gebied van veiligheid, beveiliging en merkgeschiktheid, terwijl het toegeeft dat er behoefte is aan verdere verbeteringen. Diverse bedrijven, oa Match Groep e Bumble, ze hebben geschorst of hebben hun advertenties op Reels verminderd en andere metaplatforms die deze ontdekkingen volgden. Anderen, zoals Disney e Hims, dringen er bij Meta op aan om dergelijke advertentieplaatsingen te vermijden en hebben hun bezorgdheid hierover geuit de associatie van hun merken met dergelijke inhoud.
