I moderatori di Facebook non possono guardare ogni singola immagine che viene pubblicata sulla piattaforma, quindi la stessa società sta creando una IA per aiutarli.
In un post pubblicato oggi, Facebook descrive un software in via di sviluppo - chiamato Rosetta - che utilizza l'apprendimento automatico per identificare il testo in immagini e video e trascriverlo in qualcosa che sia leggibile dalla macchina. In particolare, Facebook vuole utilizzare questo strumento per scovare e contrastare i meme più offensivi.
Gli strumenti di trascrizione del testo non sono di certo una novità, ma per Facebook è una sfida di dimensioni bibliche, a causa delle dimensioni della sua piattaforma e della varietà delle immagini che ogni giorno vengono pubblicate. Secondo quanto riportato dal blog ufficiale del social network, Rosetta sta estrapolando testi da un miliardo di immagini e screenshot, sia su Facebook che su Instagram.
Al momento non è chiaro cosa se ne stia facendo di tutti questi dati. Sembra anche che Facebook stia iniziando a puntare a obiettivi molto più ambiziosi, come capire che cosa sarebbe interessante inserire nella tua bacheca notizie e, soprattutto e capire quali sono i meme che incitano all'odio o a commenti offensivi.
Facebook afferma che l'estrazione del testo e l'apprendimento automatico vengono utilizzati per 'identificare automaticamente i contenuti che violano la nostra politica di incitamento all'odio'. Dati i noti problemi di moderazione della piattaforma, un sistema ben funzionante in grado di segnalare automaticamente le immagini potenzialmente problematiche potrebbe essere di grande aiuto.
Via The Verge
Iscriviti al nostro canale Telegram e rimani aggiornato!