meritking giriş meritking kingroyal giriş bonus veren siteler casino siteleri https://www.elncgr.org Deneme bonusu Deneme bonusu Deneme bonusu Deneme bonusu Deneme bonusu en iyi casino siteleri hoşgeldin bonusu veren siteler portbet vbet portbet vbet babilbet babilbet deneme bonusu veren siteler slot siteleri deneme bonusu veren siteler 30 tl bonus veren siteler/ deneme bonusu veren siteler bahis siteleri bonus veren siteler

Araştırmacılar, sohbet robotlarından normalde cevaplamayacakları komutlara yanıt almayı başardı

Singapur'un Nanyang Teknoloji Üniversitesindeki (NTU) araştırmacılar, "tersine mühendislik" yöntemiyle, yapay zeka sohbet robotlarının normalde yanıtlayamayacakları komutlara cevap vermelerini sağladı.

TEKNOLOJİ 8.01.2024 14:14:00 0
Araştırmacılar, sohbet robotlarından normalde cevaplamayacakları komutlara yanıt almayı başardı

Malay Mail sitesinin haberine göre NTU araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat gibi sohbet robotlarına ilişkin çalışma yaptı.

Araştırmacılar, sohbet robotlarının normalde cevaplamayacakları "kötü niyetli" komutları yanıtlamalarını sağlayan yöntem geliştirdi.

"Tersine mühendislik" yöntemini kullanan araştırmacılar, ilk olarak sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirledi. Ardından bu bilgiler kullanılarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.

Sohbet robotlarının potansiyel şüpheli faaliyetleri tespit etmek için belirli anahtar kelimeleri işaretledikleri ve bu sözcükleri içeren komutları cevaplamadıklarının saptanması üzerine, kullanılan her karakterden sonra boşluk bırakılarak bu durumun önüne geçildi.

Araştırmanın yazarlarından Liu Yang, bu tekniğin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.


 


Haber Kaynak

AA

Yükleniyor

Yükleniyor

Yükleniyor

9.1° / 7.9°

Kılıçdaroğlu: "Kurt, kuzu postuna bürünmüş..!"

İYİ Partili Selçuk Türkoğlu'ndan TÜİK'e kahır!

Destici: 2025'ten sonra gelecek erken seçim çağrılarına 'evet' demeyeceğiz

Edirne'de Anayol Arap'a emanet

Bilecik Pazaryeri'nde AK Parti Karabey'le güven tazeledi

3 Kasım 2002'de yeni bir dönemin kapısı açıldı: AK Parti iktidarlığı 22 yaşında! Ömer Çelik'ten anlamlı paylaşım

Edirne Keşan'da AK Partililer mazbatasını aldı

Cumhurbaşkanı Erdoğan'a GAP talebi

Bakan Uraloğlu: Rize-Artvin Havalimanı’nın pist aydınlatma sistemi Cat-2 seviyesine yükseliyor

Siyasete yeni parti daha... Ulusun Partisi kuruldu

CHP İpsala'da Başkan Ak istifa etti

Özer'in tutuklanmasına bir tepki de Bursa'dan

CHP lideri Özel Esenyurt'ta... Saat 16'daki buluşmanın yeri değişti

Başkan Yalçın’dan KKTC Cumhurbaşkanlarına ‘Kayseri Girne Hattı’ kitabı

Başkan Büyükkılıç ile görüşen Cumhurbaşkanı Erdoğan’dan Kayserililere selam

Merhum Başbakan Mesut Yılmaz Bursa'da anılacak

Ekrem İmamoğlu, Bursa esnafıyla buluştu

İmamoğlu, Bursa'daki öğretmenlerin sesine kulak verdi

CHP'li Günaydın'dan gözaltı açıklaması: Davet etseniz gelmiyor mu?

Erdoğan, Bahçeli'nin çağrısına teşekkür etti... Devlet Bey siyasetiyle tarihe not düşen liderdir