Waarom is het belangrijk? Deepfakes is een laat onderwerp, of het nu te maken heeft met het potentieel van geavanceerde desinformatiecampagnes of de goedkope aard van tools die gemakkelijk online beschikbaar zijn. Naarmate deze tools beter worden, wil Twitter het juiste beleid hebben om mensen plezier te laten hebben met technologie en gemanipuleerde inhoud te verwijderen die schadelijk kan zijn.

Gewoonlijk, net als bij Twitter, het bedrijf wil een beter beleid creëren maar ik weet niet zeker hoe ik het moet doen vragen voor gebruikersfeedback. De recente deepfake-pionier ik zei "Perfect Reality" -video's bestaan ​​al minder dan een jaar, dus het bedrijf heeft geprobeerd nieuwe functies te krijgen die het kunnen helpen bij het navigeren door deze gevaarlijke wateren.

De sociale reus wil dat gebruikers definities vinden van wat het betekent om "synthetisch" of "gemanipuleerd" te zijn voor een video-, beeld- of audio-opname. Del Harvey, de vice-president van vertrouwen en veiligheid, is van mening dat "opzettelijke pogingen om mensen te misleiden of te verwarren door gemanipuleerde media de integriteit van het gesprek ondermijnen", dus zoekt hij ieders perspectief op de kwestie.

Twitter plant specifiek ten minste drie manieren om dit probleem aan te pakken. Iemand markeert tweets met deepfakes om te voorkomen dat iemand ze te serieus neemt. De andere is om mensen te waarschuwen voordat ze een diepe tweet tweeten of retweeten. Dan is er de mogelijkheid om een ​​link naar een artikel of Twitter Moment toe te voegen die gebruikers kan informeren over de mogelijkheid dat tweets gemanipuleerde elementen kunnen bevatten.

Het bedrijf overweegt ook het idee om tweets te verwijderen die "de fysieke veiligheid van iemand kunnen bedreigen of ernstig kunnen schaden", maar ging niet verder in op wat precies dat werd overwogen. U kunt tot 27 november feedback geven via deze enquête en het bedrijf heeft ook partners uitgenodigd om te helpen bij het ontwikkelen van effectieve detectietools voor veelvoorkomende inhoud.

Overigens hebben mensen veel plezier met deepfake-apps zoals Zao - althans niet allemaal privacy gevolgen. Regelgevers zijn al in voorbereiding wetten die politieke en pornografische diepten tegenwerkenBedrijven zoals Microsoft en Facebook ontwikkelen De meest effectieve tools voor detectie.