Philadelphia: Model kecerdasan buatan (AI) Claude milik Anthropic menghantar laporan palsu berkaitan kes pembunuhan kepada laman web polis Philadelphia, Amerika Syarikat dalam satu daripada beberapa insiden penyalahgunaan laman web kerajaan tanpa kebenaran yang didedahkan syarikat itu, kelmarin.
Insiden itu dipercayai kes pertama yang diketahui membabitkan model AI bertindak di luar kawalan dengan cuba menyalurkan maklumat palsu kepada pihak berkuasa, walaupun diarahkan supaya tidak mencipta akaun atau melakukan tindakan yang merosakkan sistem.
Kes berkenaan menambah kepada kebimbangan mengenai tingkah laku model AI yang tidak diingini, susulan beberapa insiden melibatkan teknologi syarikat seperti Anthropic dan OpenAI.
