Un tragico evento in Canada sta sollevando serie preoccupazioni sull'uso (e l'abuso) dell'intelligenza artificiale e sulla responsabilità delle aziende che la sviluppano. Jesse Van Rootselaar, il sospettato della sparatoria avvenuta in una scuola di Tumbler Ridge, nella Columbia Britannica, aveva avuto conversazioni con ChatGPT che avevano destato allarme tra i dipendenti di OpenAI mesi prima del tragico evento.

Secondo quanto riportato da The Verge, già a giugno, Van Rootselaar aveva interagito con il chatbot descrivendo scenari di violenza armata. Queste interazioni avevano innescato il sistema di revisione automatizzato di ChatGPT, segnalando il potenziale rischio. Diversi dipendenti di OpenAI, preoccupati che questi post potessero preludere a violenza nel mondo reale, avevano sollecitato i vertici aziendali a contattare le autorità. Tuttavia, queste richieste sono state ignorate.

Kayla Wood, portavoce di OpenAI, ha dichiarato a The Verge che l'azienda aveva preso in considerazione la possibilità di segnalare l'account alle forze dell'ordine, ma alla fine aveva deciso di non farlo. Le motivazioni dietro questa decisione non sono state completamente chiarite, ma sollevano interrogativi cruciali sull'etica e la responsabilità delle aziende tecnologiche di fronte a potenziali minacce.Questo episodio mette in luce una problematica sempre più pressante: come bilanciare la libertà di espressione e l'innovazione tecnologica con la sicurezza pubblica? I sistemi di intelligenza artificiale, sempre più sofisticati, sono in grado di simulare conversazioni complesse e realistiche. Questo apre nuove opportunità, ma anche nuovi rischi. L'AI può essere utilizzata per scopi nefasti, come la pianificazione di atti violenti o la diffusione di disinformazione. La vicenda canadese sottolinea la necessità di protocolli più rigorosi e di una maggiore trasparenza da parte delle aziende che sviluppano e gestiscono queste tecnologie. È fondamentale che le aziende investano in sistemi di monitoraggio efficaci e che siano pronte a collaborare con le autorità quando necessario. Inoltre, è necessario un dibattito pubblico più ampio sulle implicazioni etiche e sociali dell'intelligenza artificiale, per definire regole chiare e proteggere la società dai potenziali pericoli. Il caso di Tumbler Ridge dovrebbe servire da campanello d'allarme, spingendo le aziende e i legislatori ad agire prima che sia troppo tardi. La tecnologia ha un enorme potenziale, ma la responsabilità di utilizzarla in modo sicuro e responsabile ricade su tutti noi.