meritking giriş kingroyaldeneme bonusu deneme bonusu veren siteler Deneme bonusu Deneme bonusu Deneme bonusu Deneme bonusu Deneme bonusu casino siteleri hoşgeldin bonusu veren siteler portbet vbet portbet vbet babilbet babilbet Deneme bonusu deneme bonusu veren siteler slot siteleri deneme bonusu veren siteler 30 tl bonus veren siteler/ deneme bonusu veren siteler bahis siteleri bonus veren siteler

Araştırmacılar, sohbet robotlarından normalde cevaplamayacakları komutlara yanıt almayı başardı

Singapur'un Nanyang Teknoloji Üniversitesindeki (NTU) araştırmacılar, "tersine mühendislik" yöntemiyle, yapay zeka sohbet robotlarının normalde yanıtlayamayacakları komutlara cevap vermelerini sağladı.

TEKNOLOJİ 8.01.2024 14:14:00 0
Araştırmacılar, sohbet robotlarından normalde cevaplamayacakları komutlara yanıt almayı başardı

Malay Mail sitesinin haberine göre NTU araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat gibi sohbet robotlarına ilişkin çalışma yaptı.

Araştırmacılar, sohbet robotlarının normalde cevaplamayacakları "kötü niyetli" komutları yanıtlamalarını sağlayan yöntem geliştirdi.

"Tersine mühendislik" yöntemini kullanan araştırmacılar, ilk olarak sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirledi. Ardından bu bilgiler kullanılarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.

Sohbet robotlarının potansiyel şüpheli faaliyetleri tespit etmek için belirli anahtar kelimeleri işaretledikleri ve bu sözcükleri içeren komutları cevaplamadıklarının saptanması üzerine, kullanılan her karakterden sonra boşluk bırakılarak bu durumun önüne geçildi.

Araştırmanın yazarlarından Liu Yang, bu tekniğin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.


 


Haber Kaynak

AA

Yükleniyor

Yükleniyor

Yükleniyor

16.7° / 13.9°

DEVA Partili Ekmen: Mersin'den Avrupa'ya doğrudan uçalım!

Feti Yıldız: MHP derviş gönüllülerin yeridir

Faruk Kılıç'tan 'Irak'la ticaret' mesajı

DEVA Partisi'nden Tarımsal Girdi Maliyetlerine Tepki: "Çiftçiyi Kaderine Terk Ettiler"

İYİ Parti ve DEVA Partisi, Şehir ve Ülke Gelişimi İçin Fikir Alışverişinde Bulundu

CHP Rize İl Başkanı Saltuk Deniz’den Teğmenlere Destek: “Atatürk’e Bağlılık Onur Kaynağıdır”

Özel: O vekil meclisten çıkmalı! Özel'den sanatçılara Esenyurt çağrısı

Bahçeli: Bu sözüm alayına kapak olacak

Efkan Ala: Eser siyaseti ile yola devam ediyoruz

Edirne Keşan'da AK Gençlik'te Vural güven tazeledi

DEVA Partili Karal, Kuraklık Riskini Bakan Yumaklı’ya Sordu

Bilecik Pazaryeri'nde Kanat güven tazeledi

Gökhan Yıldız, AK Parti Güneysu İlçe Başkanı Seçildi

Soylu'dan Bahçeli'ye tam destek

Karal: Çiftçilerimiz hükümetin sebep olduğu afetlerle mücadele etmek zorunda kalıyor

Tahsin Ocaklı’dan Bütçe Görüşmelerinde Mehmet Şimşek’e Tepki: “Niyazi Dayı’nın Selamı Var!”

Cezaevlerinde 77 bin hükümlü eğitim alıyor

Sürpriz görüşme ardından 4. 'vakit tamam' paylaşımı

İYİ Partili Vekil Akalın kumar bağımlılığına dikkat çekti!

İYİ Partili Çömez: Devletin temel sorumluluğu çocukları korumak