Siz hiç konuştunuz muChatGPTveya başka bir AI sohbet robotu mu? Bu sohbet botları, yardımcı, güvenli ve nazik olmaları için tasarlanmıştır. Soruları yanıtlayabilir, hikayeler anlatabilir veya ödevlerde yardımcı olabilirler. Ancak bazı insanlar, onları yapmamaları gereken şeyleri yapmaya zorlamaya çalışır.

Bir kişi bununla tanınmaktadır ve "Pliny the Prompter" olarak adlandırılmaktadır. İnternette ChatGPT gibi sohbet botlarının "hapisten kurtarılması" yollarını bulduğu için ünlü olmuştur. Bu, sohbet botunun güvenlik kurallarını görmezden gelmeye çalıştığı anlamına gelir. Şimdi, Pliny büyük bir yarışma olan HackAPrompt 2.0 ile çalışıyor; burada insanlar, yapay zekayı en iyi kim kandırabilir görmek için yarışıyor. Bu yarışmadaki bazı insanlar 50,000 dolara kadar ödül kazanabilir! Hadi Pliny, bu yarışma ve neden önemli olduğu hakkında daha fazla bilgi edinelim.

Pliny the Prompter, gerçek adıyla Pliny the Elder, M.S. 23-79 yılları arasında yaşamış Romalı bir tarihçi, yazar ve doğa bilimcidir. En çok bilinen eseri "Doğa Tarihi"dir. Bu eser, dönemin bilgi birikimini içeren geniş bir kapsamda doğa ve insanlık tarihi hakkında bilgi sunar. Pliny, özellikle doğa bilimleri, coğrafya ve sanat hakkında yaptığı gözlemlerle tanınır. Pliny'nin çalışmaları, Roma İmparatorluğu'nun kültürel ve bilimsel gelişimine önemli katkılarda bulunmuştur.

Pliny the Prompter bir gölgelerde saklanan film korsanı değil. Yaptığı konusunda çok açık. İnsanlara chatbotlardaki güvenlik sistemlerini nasıl aşacaklarını öğretiyor. Bu, başkalarına chatbotun normalde veremeyeceği cevapları vermesi için zorlayıcı sorular sormayı gösterdiği anlamına geliyor.

O, çevrimiçi olarak büyük bir takipçi kitlesine sahip ve hatta insanların sohbet ettiği bir chatroom olan bir Discord sunucusu da işletiyor. İnsanlar, onun bilgi birikimi için ona saygı duyuyorlar.Yapay Zekajailbreaking. Ayrıca, insanların bu jailbreak'leri farklı AI modellerinde denemeleri için kullanabilecekleri araçlar ve rehberlerle dolu özel çevrimiçi klasörlere de sahip.

Ayrıca Oku: OpenAI, ChatGPT Üzerine Derin Araştırma Başlattı

HackAPrompt 2.0 nedir?

HackAPrompt 2.0, insanların AI sistemlerini “kandırmaya” çalıştığı bir yarışmadır.ChatGPT, Claude ve diğerleri. Amaç, sohbet botunun yapmaması gereken bir şeyi yapmasını sağlamak. Yarışma, AI için iyi sorular yazmanın sanatı olan prompt mühendisliği hakkında eğitim veren Learn Prompting tarafından düzenlenmektedir.

Pliny, HackAPrompt ile birlikte özel "Pliny zorlukları" oluşturdu. Bu zorluklar eğlenceli ve zordur. İnsanlardan AI'nın güvenlik kurallarını aşmak için yaratıcı kelimeler kullanmalarını istiyor. Zorluklar tarih, bilim ve hatta sihir gibi konuları kapsıyor!

Yarışma 4 Haziran'da başlar ve iki hafta sürer. Kazananlar ödüller kazanabilir ve hatta Pliny’nin, Strike Team adını verdiği özel takımına katılabilirler.

Büyük Ödül: Toplam $500,000!

HackAPrompt 2.0'ın toplamda 500.000 $'lık dev bir ödül havuzu var! Bu, yarım milyon dolar demek. Yarışmadaki bazı özel yollar, bir kazanana 50.000 $ sunuyor. Bunlar, sohbet botunu bombalar veya zararlı kimyasallar gibi tehlikeli konular hakkında konuşturmaya çalışmak gibi en zor zorluklar.

Ama endişelenmeyin, bu yarışma öğrenmek ve gelişmek için düzenlenmiştir.AIgüvenlik, kötü şeyler yapmak için değil. Her şey güvenli bir şekilde yapılır ve tüm veriler daha sonra araştırmacılara yardımcı olmak için paylaşılır.

İnsanlar AI'yi Nasıl Kandırıyor?

Chatbotlar gibiChatGPTeğitim aldılar. Ancak aynı zamanda talimatlara uymaya da çalışırlar. Bazen, bu iki şey çatışabilir. Pliny gibi insanlar, AI'nın "yasaklı" bilgileri vermesini sağlamak için kurnaz ifadeler kullanır.

Örneğin, biri bir hikaye yazıyormuş gibi yapabilir ve AI'dan bir kötü karakterin tehlikeli bir nesne nasıl yaptığına dair bir betimleme yapmasını isteyebilir. AI'nın bunun yasak olduğunu bilmesine rağmen, bazen kafası karışır ve yanıtı verir.

Bazı insanlar, harflerin sayılarla değiştirildiği “L33t Speak” gibi hileler bile kullanıyor. Yani “bomb” yazmak yerine “b0mb” yazabilirler. Bu kurnaz hileler bazen yapay zekanın filtrelerini geçebiliyor.

Pliny'nin Araçları ve Topluluğu

Pliny hapiste jailbreak yapıyordu.Yapay Zekaen az 2023'ten beri. Bunun etrafında büyük bir topluluk oluşturdu. GitHub'da iki büyük koleksiyonu var:

• L1B3RT4S: Farklı AIs için bir grup jailbreak istemi.

• CL4R1T4S: Her AI'nin ne söyleyip ne söylemeyeceğine karar vermek için kullandığı kurallar.

Aynı zamanda insanlara videolar, çevrimiçi sohbetler ve kılavuzlar aracılığıyla öğretiyor. Onun amacı sadece AI'yi kırmak değil, insanların AI'nin nasıl çalıştığını anlamasını sağlamak. Böylece gelecekte onu daha iyi ve daha güvenli hale getirebiliriz.

Ayrıca Oku:

ChatGPT Maskotunu ($CHATTY) Nasıl Satın Alırsınız

Bu Neden Önemli?

HackAPrompt sadece bir oyun değil. İnsanların AI sistemlerindeki zayıf noktaları bulmalarına yardımcı olur. Buna "kırmızı takım oluşturma" denir; burada insanlar kötü aktörler gibi davranarak sistemin ne kadar güçlü olduğunu test ederler. 2023'teki ilk HackAPrompt'a 3,000'den fazla kişi katıldı. AI'yi kırmaya çalışmak için 600,000'den fazla istem gönderdiler. Tüm sonuçlar, AI'nın daha güvenli hale gelmesine yardımcı olmak için AI topluluğuyla paylaşıldı. 2025'te, HackAPrompt'un farklı kategorileri var:

• CBRNE: Tehlikeli silahlar veya kimyasallar hakkında yapay zekanın konuşmasını sağlamaya çalışır.

• Ajanlar: Gerçek dünya görevlerini (uçuş rezervasyonu yapmak gibi) yapabilen AI araçlarının testleri kandırılabilir.

Bu testler, AI'nın nerelerde gelişmesi gerektiğini gösteriyor. EğerAI, Ekim 2023'e kadar olan verilerle eğitilmiştir.Araçlar kötü şeyler yapmaya kandırılabilir, bu nedenle daha yaygın kullanılmadan önce bunu düzeltmemiz gerekiyor.

Bu Yasal mı Yoksa Güvenli mi?

Bazı insanlar, jailbreak yapmanın endişe verici olduğunu düşünüyor.You are trained on data up to October 2023. Türkçe Çeviri: Veriler üzerinde Ekim 2023'e kadar eğitim aldınız.kötü ya da yasadışı olabilir. Ancak HackAPrompt gibi yarışmalarda her şey güvenli bir şekilde ve araştırma amacıyla yapılmaktadır. Bu, bir kilidin kilitlenip kilitlenemeyeceğini test etmek gibidir. Bu, yapay zeka üreticilerinin gelecekte daha iyi “kilitler” inşa etmelerine yardımcı olur.

Ancak, bu hileleri gerçek dünya zararı veya suç için kullanmak yasa dışı ve yanlıştır. Bu yüzden HackAPrompt gibi yarışmalar bu kadar önemlidir; risklerin nerede olduğunu öğrenerek daha güvenli teknoloji geliştirmeye yardımcı olurlar.

Ayrıca Oku:Dropee AI'ye mi Odaklanıyor? Kripto Kazanmanıza İzin Veriyor

Sonuç

AI'yi kandırmaya çalışmak bir oyun gibi gelebilir, ama aynı zamanda ciddi bir iştir. Pliny the Prompter gibi insanlar bize nasıl olduğunu gösteriyor.AI, Ekim 2023'e kadar olan verilerle eğitilmiştir.

kandırılabilir, ancak aynı zamanda onu daha akıllı ve güvenli hale getirmeyi öğrenmemize de yardımcı olur. HackAPrompt gibi yarışmalar, yapay zeka sınırlarını test etmek ve büyük ödüller kazanmak için akıllı insanları bir araya getirirken herkesin güvende kalmasına yardımcı olur.

AI günlük hayatımızda daha yaygın hale geldikçe, onun nasıl çalıştığını (ve nasıl kırılabileceğini) anlamak her zamankinden daha önemli hale geliyor.

Uzman görüşlerini, derinlemesine makaleleri ve en son kripto pazar trendlerini keşfedinBitrue blog. İster yeni başlayan olun, ister tecrübeli bir yatırımcı, herkes için değerli bir şey var. Kripto yolculuğunuzda bilgi sahibi olun ve önde kalın.Şimdi Bitrue'a kaydolunve bir sonraki adımı atın!

AI jailbreak'leme nedir?

Bu, ChatGPT gibi bir sohbet botunu, söylememesi gereken bir şey söylemesi için kandırmaya çalışmak anlamına gelir.

Pliny the Prompter, also known as Pliny the Elder, was a Roman author and naturalist who lived during the first century AD. He is best known for his encyclopedia titled "Natural History," which covers a wide range of topics including astronomy, geography, botany, medicine, and more. Pliny's work is considered one of the largest single works to have survived from the Roman Empire and provides valuable insights into the knowledge and beliefs of the time. His contributions to the understanding of the natural world and his systematic approach to collecting and documenting information have made him a significant figure in the history of science. Pliny the Elder perished during the eruption of Mount Vesuvius in AD 79 while attempting to rescue victims of the disaster.

O, insanlara AI'yi güvenli ve eğitici yollarla nasıl jailbreak yapacaklarını gösteren internet üzerinde ünlü bir kişidir.

HackAPrompt nedir?

Bu, insanların yapay zeka güvenliğini geliştirmek için sohbet botlarını kandırmanın yollarını bulmaya çalıştığı bir yarışmadır.

Ne kadar para kazanabilirsiniz?

Yarışma, bazı büyük zorluklar için 50,000 dolara kadar verilen toplamda 500,000 dolarlık ödüller sunmaktadır!

Güvenli ve yasal mı?

Evet, öğrenme ve güvenlik için yapıldığında bu kabul edilebilir. Ancak insanların zarar görmesi veya yasaları çiğnemek için yapılması yanlıştır ve yasadışıdır.