Teknologi AI Maven AS Tewaskan 175 Pelajar Iran dalam Sekali Serangan

BEIJING - Serangan rudal terhadap sebuah sekolah di Iran, nan menewaskan 175 penduduk sipil, telah mendorong bumi untuk mempertanyakan akibat penggunaan AI untuk tujuan militer.

Pada tanggal 28 Februari, sebuah rudal Tomahawk nan dipandu AI menghancurkan sekolah dasar Shajareh Tayyebeh di Minab, Iran selatan. Setidaknya 175 orang tewas, lebih dari 100 di antaranya anak-anak di bawah usia 12 tahun, menurut info dari PBB dan Iran.

Investigasi awal oleh Pentagon telah menetapkan bahwa ini adalah kesalahan penargetan AS. Sekolah tersebut sebelumnya terletak di lahan pangkalan angkatan laut Korps Garda Revolusi Iran (IRGC), tetapi tembok pemisah didirikan antara tahun 2013 dan 2016, memisahkan sekolah dari pangkalan tersebut.

Citra satelit dari Amnesty International mengkonfirmasi perihal ini. Sekolah tersebut telah beraksi selama bertahun-tahun, mempunyai situs web dan akun media sosial sendiri.

Kisah tragis ini mengungkap sisi gelap AI dalam penggunaan data. Sistem Cerdas Maven, platform penargetan nan dibangun oleh Palantir berasas perjanjian senilai $1,3 miliar dengan Pentagon, digunakan dalam operasi tersebut.

Maven mengintegrasikan gambaran satelit, info radar, dan sinyal intelijen, menggunakan model AI Claude dari Anthropic untuk mengklasifikasikan sasaran dan menghasilkan paket serangan udara secara real-time. Dalam 24 jam pertama kampanye Iran, sistem ini menghasilkan ratusan koordinat serangan.

Namun, beberapa mantan pejabat militer AS mengatakan kepada Semafor bahwa kesalahan manusia bertanggung jawab atas serangan sekolah tersebut. Alasannya adalah info nan dikelola manusia sudah usang dan tidak diperbarui tepat waktu ketika sebuah sekolah menggantikan pangkalan militer di letak nan sama.

Dmytro Matviyuk, seorang mahir drone nan telah bekerja dengan sistem otomatis serupa, percaya bahwa masalahnya bukanlah pada AI itu sendiri.