De Spaanse regering heeft de hulp ingeschakeld van het Openbaar Ministerie om sociale netwerken te laten onderzoeken vanwege de verspreiding van kinderpornografie die met kunstmatige intelligentie is gemaakt. Het gaat om grote platforms zoals TikTok, Instagram, Facebook en X.

Volgens berichtgeving van Business Insider España heeft de Spaanse overheid het Openbaar Ministerie gevraagd om te onderzoeken of deze platforms voldoende maatregelen nemen tegen dit soort ernstige strafbare feiten.

De zorgen richten zich vooral op beelden die met behulp van kunstmatige intelligentie zijn gemaakt. Daarbij worden gezichten van minderjarigen gemanipuleerd of volledig nepbeelden gecreëerd die echte kinderen voorstellen. Hoewel het om kunstmatig gegenereerde inhoud gaat, blijft de impact groot en kan het volgens de overheid niet worden genegeerd.

De regering wil weten of de sociale netwerken snel genoeg optreden wanneer dit soort materiaal wordt gemeld. Ook wordt onderzocht of de controlemechanismen van deze bedrijven wel effectief zijn. Als blijkt dat de platforms nalatig zijn geweest, kunnen er juridische stappen volgen.

De verspreiding van dit soort beelden is extra zorgwekkend, omdat kunstmatige intelligentie het steeds makkelijker maakt om realistische nepbeelden te maken. Daardoor wordt het moeilijker om echte en valse afbeeldingen van elkaar te onderscheiden. Dat vergroot het risico op misbruik en verdere verspreiding via sociale media.

Met dit verzoek aan het Openbaar Ministerie laat de Spaanse overheid zien dat ze strenger wil optreden tegen digitale misdrijven waarbij minderjarigen betrokken zijn. De komende tijd moet duidelijk worden of de sociale netwerken hun verantwoordelijkheid voldoende nemen of dat er strengere maatregelen nodig zijn.