thumb

A.S.T.R.E.A. L'intelligenza artificiale di 4GC

Il bisogno di respingere ogni forma di aggressività e di fake news sulla piattaforma, ci ha portato a interrogarci su varie forme di moderazione.

È evidente che una forma di moderazione basata su esseri umani comporta un impegno enorme e difficile da scalare.

Si è quindi optato per l’unica soluzione possibile: affidarci a una Intelligenza Artificiale « buona »: un algoritmo che impedisca di scrivere aggressivamente, con termini razzisti, sessisti, abilisti: l’abbiamo chiamata Astrea¹.

Scritti, documenti, link, che non passeranno l’esame di Astrea saranno mandati in revisione all’autore del post. Nella nostra pianificazione di prodotto, è prevista la fornitura a terze parti delle API² di Astrea.

La tecnologia
dietro Astrea

La versione alpha di Astrea, attualmente in laboratorio, utilizza BERT³ e i modelli Hatespeech-CNERG⁴ per il rilevamento di odio, razzismo, sessismo e abilismo. Abbiamo previsto di migliorare i modelli presenti nelle varie lingue aggiungendo addestramenti annotati. Per quanto riguarda invece le fake-news, Astrea utilizza api di terze parti e le integra con un proprio insieme di dati, creato tramite il suo crawler⁵ integrato. Non basta quindi postare link da fonti attendibili per passare l’esame di Astrea: se il linguaggio usato nell’articolo contiene odio, il link verrà respinto. I link che passeranno l’esame saranno disponibili nel motore di ricerca di Astrea e tramite servizi API.

thumb

Gioca con noi!

Astrea è un acronimo:

ti invitiamo ad indovinarlo, chi ci riuscirà riceverà un premio sulla piattaforma 4GoodCause al lancio della stessa.

Inviate le vostre risposte a: ricardo@4goodcause.it

[1] Astrea era la dea vergine dell’innocenza e della purezza ed era associata alla costellazione della Vergine. Scesa sulla terra nell’età dell’oro, diffuse i sentimenti di bontà e di giustizia ma, disgustata dalla degenerazione morale del genere umano si rifugiò nelle campagne e sopraggiunta l’età del bronzo, scelse di ritornare in cielo dove oggi risplende nell’aspetto della costellazione della VergineOvidio scrisse: «Vinta giace la bontà, e la vergine Astrea, ultima degli dei, lascia la Terra madida di sangue» (Publio Ovidio NasoneLe metamorfosi, I, vv. 149-150)

[2] API, acronimo di Application Program Interface, un sistema che consente l’interrogazione remota di un applicazione web.

[3] Bidirectional Encoder Representations from Transformers (BERT) è una tecnica di natural language processing (NLP).

[4] https://huggingface.co/Hate-speech-CNERG


[5] Un crawler, è un software che analizza i contenuti web e li rende disponibili per l’analisi.

brand
brand
brand
brand
brand
brand
brand
brand
brand
brand