Kaitiaki, intelligenza artificiale contro cyberbullismo e Blue Whale

Nata a Udine, la startup ha realizzato un’applicazione che monitora automaticamente i modelli comportamentali nei profili social dei figli, rileva anomalie e invia ai genitori segnali di allarme, garantendo la privacy. Una soluzione utile anche contro il macabro gioco on line

21 Giu 2017

Il caso tragico della ‘Blue whale challenge’, macabro gioco scatenato online dal giovane russo Philippe Budeikin, una sfida che conduceva al suicidio, ha riacceso nelle ultime settimane il tema del cyberbullismo e associati: sexting, hate speech, pedopornografia, adescamenti, emulazioni che corrono in rete. Siamo oramai consapevoli che non si possa rendere la tecnologia il capro espiatorio di disagi che vengono da altrove, ma non si può nemmeno negare che web e dispositivi high-tech siano le autostrade attraverso le quali determinati contenuti e azioni possono correre industurbati e molto velocemente. Eppure è dalla stessa tecnologia che può arrivare una risposta.

Kaitiaki in lingua maori vuol dire ‘guardiano’. La parola è azzecata per sintetizzare il servizio offerto da una nuova piattaforma digitale, nata in Italia a Udine, che intende contribuire a risolvere (o almeno ad arginare) il problema del cyberbullismo.

“I messaggi d’odio postati online rappresentano un fenomeno sociale che ha origini profonde, e non possono essere confusi con lo strumento social network, attraverso il quale sono veicolati. – dice Fabrizio Macchia, COO e co-fondatore della società – Ma se i social sono potenti propagatori del messaggio, altrettanto possono essere utilizzati per arginare e controllarne la diffusione del fenomeno.”

Katiaki è una applicazione online che, attivata dal genitore, monitora i profili social dei suoi figli, riconoscendo anomalie di comportamento o attacchi ed inviando notofiche di allarme. Non è invasiva: la privacy del minore è tutelata e niente di quanto è privato può essere visto dai genitori, è l’applicazione stessa che tramite la sua intelligenza è capace di individuare attraverso l’analisi di testi, post, immagini, video scambiati, pagine visitate e una svariata serie di social network quelli che possono essere considerati segnali cui prestare attenzione.

Anche un caso come la ‘blue whale challenge’ potrebbe trovare argine con una tecnologia come Kaitiaki: l’applicazione comprende il testo e riconosce schemi di comportamento a rischio ed anomalie nei profili; analizza immagini e video, individua nudità, frasi inappropriate, altre note ‘stonate’; apprende nuovi modelli di comportamento, nuovi pattern, utili per la soluzione di nuovi casi.

“La viralità e velocità di diffusione di fenomeni quali il cyberbullismo possono essere solo controllati da strumenti online altrettanto rapidi ed efficaci nell’agire – continua Macchia – in modo da fornire un aiuto ai ragazzi in difficoltà e consentire ai genitori di intervenire in tempo utile. Utilizzare l’intelligenza artificiale per intervenire rapidamente e in modo non invasivo rispettando la privacy dei ragazzi, è apparsa la soluzione più efficace “.

Fino a oggi per contrastare il dilagare di fenomeni quali cyberbullismo, sexting, hate speech sono stati sempre individuati strumenti preventivi, legati sopratutto all’educazione sull’uso consapevole dei social network; o assistenziali, come forma di risposta a seguito del verificarsi dell’evento. Mancava uno strumento che permettesse un intervento mirato in tempo reale proprio nella fase in cui l’atto di cyberbullismo si sta compiendo.

“Katiaki è attualmente in versione di prova gratuita e su invito – prosegue Macchia -- uscirà sul mercato a fine 2017. Insieme a questa applicazione stiamo sviluppando anche Kaitiaki EDU, uno strumento destinato a scuole e associazioni, che si propone come uno strumento per rendere i ragazzi consapevoli e partecipi del significato e delle conseguenze di ciò che scrivono online. Questo perché molto spesso si tratta di mancanza di consapevolezza più che di intento violento. Anche Kaitiaki EDU è attualmente in versione gratuita di prova”.

Katiaki, che è una startup innovativa a vocazione sociale, è stata scelta dall’Istituto della Banca Europea degli Investimenti per essere tra i finalisti del Social Innovation Tournament 2017 competizione che ha visto oltre 300 partecipanti da 31 Paesi europei.

Kaitiaki contro cyberbullismo, sexting, hate speech, autolesionismo

Articoli correlati