Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Penyedia teknologi AI Anthropic menerbitkan perubahan sejumlah ketentuan dalam Usage Policy yang mengatur penggunaan Claude. Pembaruan kebijakan ini dipublikasikan pada 8 Oktober 2026 dan direncanakan mulai diterapkan pada 12 November 2026. Menurut penjelasan perusahaan, mayoritas penyesuaian difokuskan pada penyempurnaan penjelasan kebijakan. Pendekatan tersebut berkaitan dengan peningkatan fungsi agen AI. Akibat bertambahnya penerapan Claude pada berbagai bidang, tantangan keamanan memerlukan perhatian lebih besar.

Dalam perkembangan sebelumnya, penggunaan model bahasa lebih banyak digunakan untuk mengolah informasi berbasis teks. Namun sekarang, agen kecerdasan buatan dapat digunakan untuk mengoperasikan perangkat lunak. Fungsi yang semakin luas membuka peluang otomatisasi, tetapi juga menciptakan risiko ketika sistem dipakai tanpa batas yang jelas. Oleh sebab itu, Anthropic menyusun penjelasan yang lebih rinci agar pengembang mengetahui batas penggunaan. Kebijakan tersebut bukan merupakan pelarangan umum terhadap pemanfaatan Claude, melainkan menitikberatkan pada pencegahan risiko.

Larangan Kampanye Manipulatif Menjadi Fokus Aturan Claude

Salah satu perubahan utama adalah penyusunan bagian khusus tentang kampanye manipulatif. Anthropic menetapkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mengatur larangan terhadap operasi pengaruh menggunakan akun palsu. Berdasarkan penjelasan perusahaan, Claude tidak diperkenankan membantu membangun jaringan akun palsu. Pembatasan ini ditujukan terhadap aktivitas komersial maupun politik. Dalam situasi tertentu, pengelolaan jaringan posting palsu dapat termasuk aktivitas terlarang apabila digunakan untuk memanipulasi persepsi. Dengan demikian, organisasi memiliki acuan mengenai batas otomatisasi komunikasi.

Tidak hanya membatasi jaringan akun palsu, Anthropic juga memperbarui ketentuan yang menyangkut aktivitas politik. Bagian tersebut telah diberi judul Do Not Undermine Democratic Processes untuk menekankan larangan penipuan terhadap pemilih. Contoh yang dilarang mencakup penyamaran sebagai petugas pemilihan. Sebagai perubahan penting, Anthropic mencabut pelarangan secara luas terhadap penyesuaian komunikasi politik yang sah. Keputusan perusahaan tersebut dimaksudkan agar penyampaian informasi demokrasi yang bermanfaat. Walaupun demikian, penipuan politik dan penyalahgunaan data pribadi tetap dilarang.

Teknologi AI Tidak Boleh Digunakan untuk Pengawasan Ilegal

Pada pembahasan risiko keselamatan, Anthropic memperinci larangan penggunaan model dalam pembuatan teknologi senjata. Anthropic menyatakan bahwa larangan juga berlaku pada komponen pendukung persenjataan. Perangkat lunak pengendali juga termasuk cakupan pembatasan. Sebagai ilustrasi, pengembangan perangkat lunak untuk mengendalikan senjata bertentangan dengan aturan. Mengacu pada pembaruan kebijakan, perincian tersebut menjelaskan praktik penegakan yang sudah berlangsung. Oleh karena itu, pengembang perlu mengevaluasi fungsi perangkat lunak yang dikembangkan.

Sementara dalam bidang pengawasan, Anthropic menegaskan larangan terhadap pelacakan individu tanpa persetujuan. Aturan ini mencakup pemantauan langsung ataupun pemeriksaan informasi yang telah dikumpulkan. Di samping larangan pengawasan, Claude dilarang digunakan dalam rekomendasi penangkapan individu dalam proses penegakan hukum. Meskipun demikian, pengawasan yang memiliki dasar izin sah masih dapat diperbolehkan. Contoh yang disebutkan meliputi penelitian hukum dan kegiatan jurnalistik. Pembedaan tersebut memberikan pemahaman mengenai aktivitas pemantauan yang bertanggung jawab.

Penerapan Teknologi Claude dalam Keputusan Penting Harus Diawasi

Ketentuan penggunaan terbaru juga memperjelas persyaratan penggunaan berisiko tinggi. Pengamanan tambahan itu ditujukan pada rekomendasi yang berdampak pada kondisi finansial, kesempatan bekerja, dan akses terhadap kebutuhan esensial. Untuk penerapan yang termasuk kategori berisiko tinggi, Anthropic mewajibkan mekanisme human-in-the-loop yang memadai. Dengan ketentuan tersebut, penanggung jawab yang memenuhi persyaratan wajib diberi kewenangan memeriksa serta mengubah rekomendasi AI bila diperlukan. Selain itu, individu yang terdampak perlu memperoleh penjelasan bahwa AI digunakan dalam proses tersebut.

Dalam skenario penggunaan, aplikasi yang membantu menilai risiko finansial berpotensi diwajibkan menyediakan mekanisme evaluasi sebelum tindakan. Pengawasan ini dimaksudkan memberikan kesempatan untuk memperbaiki kesalahan model. Hal tersebut sangat relevan sebab rekomendasi AI masih memiliki keterbatasan. Sebagai penjelasan penting, ketentuan dasar tersebut telah berlaku sebelum pembaruan 2026. Anthropic terutama memperjelas jenis penggunaan yang termasuk kategori berisiko tinggi. Melalui panduan yang lebih jelas, penyedia layanan bisa mengevaluasi langkah keamanan sebelum menggunakan Claude secara luas.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Seiring berkembangnya teknologi agen AI, asisten berbasis kecerdasan buatan berpotensi diintegrasikan ke sistem otomatis di dunia nyata. Kemampuan tersebut menghadirkan manfaat untuk pengendalian perangkat cerdas, tetapi memerlukan perlindungan tambahan. Melalui ketentuan terbaru, Anthropic menambahkan persyaratan bagi integrasi model dengan hardware yang bergerak apabila tindakan fisiknya memiliki risiko keselamatan. Persyaratan ini dimaksudkan untuk mendukung pengawasan manusia ketika sistem mengalami gangguan.

Salah satu persyaratan utama adalah ketersediaan pengawas yang kompeten yang mampu memantau operasi sistem otonom. Pengawas yang ditunjuk wajib dapat untuk menghentikan sistem ketika diperlukan. Selain itu, perangkat keras yang terhubung harus dapat memasuki kondisi operasi yang tidak berbahaya apabila koneksi ke Claude terputus. Melalui persyaratan tersebut, mesin tidak boleh bergantung sepenuhnya ketika layanan AI tidak tersedia. Prinsip tersebut memiliki nilai keselamatan tinggi dalam otomatisasi fisik yang berinteraksi dengan manusia.

Pentingnya Kebijakan Anthropic bagi Keamanan Teknologi AI

Penyesuaian aturan penggunaan kecerdasan buatan menunjukkan peran aturan dalam pengembangan kecerdasan buatan yang semakin jelas. Dengan pembaruan yang diumumkan, Anthropic mempertegas larangan terhadap kampanye manipulatif, penggunaan AI untuk menyesatkan pemilih, serta penyalahgunaan model dalam persenjataan dan pemantauan ilegal. Perusahaan juga menjelaskan kembali persyaratan perlindungan pada aplikasi berisiko tinggi. Tidak hanya berfokus pada dampak eksternal, ketentuan mengenai perilaku kasar yang ekstrem dan berulang menjadi bagian baru dalam kerangka tanggung jawab penggunaan AI. Walaupun kebijakan semakin rinci, penelitian serta evaluasi AI tetap memiliki ruang yang sah. Menurut Anda, apakah pembatasan penyalahgunaan kecerdasan buatan akan meningkatkan kepercayaan masyarakat? Silakan bagikan pendapat Anda mengenai perkembangan kebijakan Anthropic.