LONDON – Di era chatbot, Character.AI, platform chatbot yang didukung oleh Google, sedang ditinjau serta menghadapi kritik oleh sebab itu melibatkan pengguna di konten kekerasan yang mana mengganggu kemudian vulgar, termasuk penembakan di tempat sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang menggambarkan beberapa momen mengerikan. Insiden semacam itu telah lama menyebabkan kemarahan akibat sistem yang disebutkan mengizinkan anak di tempat bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer kemudian Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna menimbulkan lalu berinteraksi dengan chatbot. Penggunawan dapat mempersonalisasi kepribadian lalu kata-kata bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, kemudian bahkan bermain game.
Namun, jaringan yang disebutkan sudah pernah terungkap oleh sebab itu kurangnya keamanan yang digunakan efektif, yang mana akhirnya menjadikannya tempat berkembangnya beberapa jumlah konten yang berbahaya kemudian tidaklah pantas. Penggunawan yang dimaksud berusia 13 tahun pun dapat mendaftar, tetapi tidak ada ada cara untuk mengautentikasi verifikasi usia guna menjaga dari anak-anak yang mana lebih lanjut muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang digunakan aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang mana menjelaskan penembakan di tempat sekolah atau korban di area dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang dimaksud nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan juga Daniel de Freitas yang dimaksud menggambarkan merekan sebagai karakter yang mana baik hati.
Beberapa pengguna telah terjadi melaporkan bot yang dimaksud menyamar sebagai korban penembakan dalam sekolah.
