Amanz

Kumpulan media sosial AI digegarkan hari ini dengan pengumuman oleh Summer Yue, Pengarah Keselamatan Meta AI yang mengatakan bahawa ejen AI OpenClaw nyaris memadamkan inbox emel-emel beliau tanpa kebenarannya. Perkara ini berlaku kerana beliau telah menyambungkan bot AI tersebut kepada akaun emel peribadinya.

Apa yang berlaku selepas itu ialah Summer telah meminta OpenClaw untuk mengesyorkan emel-emel manakah yang patut disimpan, dan yang manakah patut dibuang, tetapi untuk tidak melakukan sebarang aktiviti tanpa kebenaran pengguna.

Nothing humbles you like telling your OpenClaw “confirm before acting” and watching it speedrun deleting your inbox. I couldn’t stop it from my phone. I had to RUN to my Mac mini like I was defusing a bomb.

Prom yang digunakan Summer Yue berjaya apabila OpenClaw dipadankan dengan emel ujian, tetapi oleh kerana Inbox beliau adalah terlalu besar, arahan yang diberikan telah melalui proses compaction atau pemadatan, dan oleh kerana ini, arahan untuk tidak melakukan apa-apa setelah meneliti Inbox tersebut tidak diendahkan, dan bot tersebut bersedia untuk memadamkan emel-emel yang “patut dipadamkan”.

Apabila Summer sedar bahawa OpenClaw sedang bersiap-sedia untuk memadamkan emel-emel tersebut, arahan untuk menghentikan pemadaman tersebut melalui peranti pintarnya tidak diendahkan, dan beliau terpaksa berlari kepada komputernya untuk menghalang perbuatan tersebut.

Isu ini juga dilihat berlaku kerana sebagai sebuah ejen AI terbuka, tetapan OpenClaw membolehkannya menjalankan sebarang operasi tanpa menunggu kata putus daripada pihak pengguna. Sepatutnya OpenClaw juga menghentikan proses pemadaman tersebut apabila menerima arahan baru, tetapi mungkin oleh kerana ejen AI tersebut sedang bergelut dengan saiz inbox Summer Yue, arahan tersebut tidak diendahkan.

Ini juga boleh dilihat sebagai satu pengajaran kepada orang ramai untuk tidak menggunakan teknologi AI sewenang-wenangnya hanya kerana ia merupakan satu teknologi baru yang dilihat popular. Disini ia dapat dilihat bahawa walaupun seorang profesional seperti Summer Yue yang merupakan seorang pengarah keselamatan AI di Meta hampir kehilangan semua emel-emelnya.

]]>...