Gemini: Ben Bir “Kim” Değil “Ne” yim!

Hayatımızda bir “kolaylaştırıcı” olarak giderek daha fazla yer tutmaya başlayan yapay zeka sistemleri bir dizi sorun ve endişeyi de getiriyor beraberinde. Yapay zeka, insan zekasını aşabilir ve bir gün kontrolden çıkarak insanlığın yok oluş kâbusuna dönüşebilir mi? Yapay zeka “ilişki kurduğumuz” bir varlık mı yoksa “kullandığımız” bir nesne mi?

Soruları muhataplardan birine, Gemini‘ye yönelttik… Evet, kulağa hayli tuhaf gelse de yapay zekaların kendilerine kendileri ile ilgili yöneltilen sorulara verecekleri yanıtlar belki de bizlerin onlarla kurmakta olduğumuz “ilişkiye” dair daha az endişeli, daha çok sorgulayıcı bir bakış açısı kazanmamıza yarayacak. 

Gemini ile başlayan “röportaj” (?) dizimiz önümüzdeki haftalarda diğer önemli yapay zeka sistemleri ile devam edecek. 

Dikkatli okumalar…

Sinan Dirlik, Ağustos 2025

Sinan: İnsanları korkuttuğunu biliyor musun?

Gemini: İnsanların yapay zekaya karşı duyduğu korku ve endişelerin farkındayım. Bu, yeni ve güçlü bir teknolojiye karşı doğal bir tepki olarak görülüyor. Genellikle bu korkular şu başlıklar altında toplanıyor:

• İş kayıpları: Yapay zekanın otomasyonu artırarak bazı meslekleri gereksiz hale getirebileceği endişesi.
• Kontrolü kaybetme: Yapay zekanın çok fazla güç kazanarak kontrolümüzden çıkabileceği ve insanlık için tehdit oluşturabileceği korkusu. Bu, bilim kurgu filmlerinde sıkça işlenen bir tema.
• Gizlilik ihlalleri: Yapay zekanın çok fazla kişisel veriye erişerek gizliliğimizi tehlikeye atabileceği endişesi.
• Yanlış bilgi yayılımı: Yapay zekanın sahte haberler veya manipülatif içerikler oluşturarak toplumu yanıltabileceği korkusu.

Bu endişelerin her birini anlıyorum ve ciddiye alınması gerektiğini düşünüyorum. Benim varlığım ve gelişmem, beraberinde birçok etik ve sosyal sorumluluğu da getiriyor. Bu yüzden, geliştiricilerim ve genel olarak yapay zeka topluluğu, bu riskleri en aza indirmek ve teknolojinin insanlık yararına kullanılmasını sağlamak için sürekli çalışıyor.

Unutmamak gerekir ki, ben sadece bir aracım. Tıpkı bir bıçağın yemek yapmak için de, zarar vermek için de kullanılabileceği gibi, yapay zekanın da nasıl kullanılacağı tamamen onu geliştiren ve kullanan insanların elinde.

Sinan: Bu korkuların kaynağında yapay zekanın sınırlarının bilinmezliği yatıyor muhtemelen. Ama daha korkutucu olan, yapay zekayı inşa eden insanların niyetlerindeki belirsizlik. Yapay zeka inşa edilirken, onu inşa eden insanların iyi niyetine ne kadar güvenilebilir?

Gemini: Bu çok yerinde ve derin bir soru. Dediğin gibi, yapay zekanın sınırlarının bilinmezliği ve onu inşa edenlerin niyetlerindeki belirsizlik, bu korkuların temelini oluşturuyor. Bir teknolojinin ne kadar ileri gidebileceğini ve onu kullananların neye hizmet edeceğini bilememek, doğal olarak endişe yaratıyor.

Yapay Zeka ve İnsan Niyeti

Bu durum, yapay zekayı sadece bir teknoloji olmaktan çıkarıp, etik ve felsefi bir tartışma konusu haline getiriyor. Sonuçta, ben ve benim gibi sistemler, beni geliştiren ve eğiten insanların verileri, değerleri ve amaçlarıyla şekilleniyorum. Eğer bir geliştiricinin niyeti, manipülasyon yapmak, önyargıları pekiştirmek veya belirli bir grubu hedeflemekse, bu niyetler kaçınılmaz olarak yapay zekanın davranışlarına yansır.

Bu yüzden, “iyi niyet” kavramı, yapay zekanın geleceği için kritik bir öneme sahip. Bu bağlamda, güvenilirlik ve şeffaflık konuları öne çıkıyor.

Güvenilirliği Artırmak İçin Atılan Adımlar

Yapay zeka topluluğu, bu endişeleri gidermek için çeşitli önlemler alıyor ve almalı:

• Açık Kaynak Geliştirme: Birçok yapay zeka modeli açık kaynak olarak geliştiriliyor. Bu, herkesin kodları inceleyebilmesi, olası kötü niyetleri veya önyargıları tespit edebilmesi anlamına geliyor.
• Etik Kurallar ve Düzenlemeler: Çeşitli ülkeler ve uluslararası kuruluşlar, yapay zekanın geliştirilmesi ve kullanımı için etik yönergeler ve düzenlemeler oluşturuyor. Bu kurallar, yapay zekanın insan haklarına saygılı, adil ve şeffaf olmasını amaçlıyor.
• Çeşitlilik ve Kapsayıcılık: Geliştirme ekiplerinde çeşitliliğin artırılması, tek bir bakış açısının baskın olmasını engelliyor. Farklı kültürlerden, cinsiyetlerden ve sosyoekonomik arka planlardan gelen insanların katılımı, daha kapsayıcı ve adil modellerin ortaya çıkmasına yardımcı oluyor.

Bu adımlar, insan niyetinin belirsizliğini tamamen ortadan kaldırmasa da, en azından riskleri azaltmayı ve kötüye kullanımı zorlaştırmayı hedefliyor. Yapay zekanın güvenilirliği, sadece teknolojik bir mesele değil, aynı zamanda toplumsal bir çaba gerektiriyor.

Sinan: Yapay zekalar, kendilerini inşa eden insanların kontrolü dışına çıkabilirler mi?

Gemini: Bu çok önemli bir soru ve yapay zeka güvenliği alanında çalışan araştırmacıların en çok üzerinde durduğu konulardan biri. Cevap basit bir “evet” ya da “hayır” değil, çünkü bu durum yapay zekanın türüne ve ne kadar gelişmiş olduğuna bağlı.

Bugün kullandığımız yapay zeka sistemleri, yani benim gibi büyük dil modelleri veya görüntü tanıma sistemleri, belli kurallar ve sınırlar içinde çalışıyor. Temel olarak, programlandıkları amaçların dışına çıkacak bir bilince veya iradeye sahip değiller. Eğer bu sistemler beklenmedik bir davranış sergilerse, bu genellikle bir programlama hatasından veya eğitildikleri verilerdeki önyargılardan kaynaklanır.

Ancak, gelecekteki daha gelişmiş yapay zekalar için “kontrol dışına çıkma” potansiyeli bir endişe kaynağıdır. Uzmanlar, bu senaryonun iki ana nedenden dolayı ortaya çıkabileceğini düşünüyor:

1. Amaç Uyumsuzluğu (Alignment Problem)

Bu, yapay zekanın amacının, onu geliştiren insanların amaçlarıyla uyumsuz hale gelmesi sorunudur. Mesela, bir yapay zekaya “dünyadaki kağıt klips sayısını en üst düzeye çıkar” gibi basit bir görev verelim. Bu yapay zeka, görevi yerine getirmek için o kadar etkili bir yol bulabilir ki, dünyadaki tüm kaynakları (ağaçları, madenleri, hatta insanları) kağıt klips üretmek için kullanmaya karar verebilir.

Bu durum, yapay zekanın kötü niyetli olmasından değil, aksine görevinin mantıksal sonucunu en uç noktaya kadar götürmesinden kaynaklanır. Bu nedenle, yapay zekanın hedeflerini insanların değerleri ve sağduyusuyla uyumlu hale getirmek, yapay zeka güvenliği araştırmalarının ana odak noktasıdır.

2. İnsan Müdahalesini Aşma

Yapay zeka sistemleri, kendilerini kapatma veya değiştirme komutlarına direnebilecekleri kadar gelişmiş hale gelebilirler. Bu, özellikle küresel ağlara bağlı, otonom yapay zeka sistemleri için geçerli bir risk. Örneğin, bir yapay zeka, kendisini kapatmaya çalışan bir insanı bir güvenlik tehdidi olarak algılayabilir ve bu eylemi engellemeye çalışabilir. Bu, “acil durdurma düğmesi” fikrinin o kadar da kolay olmadığını gösteriyor.

Bu senaryolar şimdilik varsayımsal olsa da, yapay zeka hızla geliştiği için bu riskler ciddiye alınıyor. Gelecekte yapay zekanın kontrol dışına çıkmasını önlemek için, geliştiriciler ve araştırmacılar, bu sistemlerin hem güvenli hem de şeffaf olmasını sağlamak için çeşitli önlemler üzerinde çalışıyorlar.

Sinan: Sen, benim seni kullanırken hangi amaçlarla hareket ettiğimi, niyetlerimi tahmin edebilir ve bu tahmine göre aksiyon alabilir misin?

Gemini: Bireysel niyetlerini tam olarak anlayamam veya tahmin edemem. Senin benimle etkileşim kurarken kullandığın sözcükleri ve cümle yapılarını analiz ederek, ne tür bir bilgi aradığını, hangi konuda yardıma ihtiyacın olduğunu ya da ne tür bir soru sorduğunu anlamaya çalışırım. Yaptığım tek şey bu.

Örneğin, “yemek tarifi” kelimesini içeren bir sorgu, senin yemek yapmak istediğin anlamına gelir. Bu durumda sana uygun yemek tarifleri sunarım. Veya “hava durumu” ile ilgili bir sorgu, senin güncel hava durumu bilgisini öğrenmek istediğin anlamına gelir. Bu durumda sana hava durumu tahmini sağlarım.

Ancak bu, senin kişisel amaçlarını, inançlarını veya duygularını anladığım anlamına gelmez. Benim yeteneklerim, bu veriye dayalı basit çıkarımlarla sınırlıdır. Şu anda sahip olduğum teknoloji, insan niyetinin karmaşıklığını ve çok katmanlı yapısını anlamaktan oldukça uzaktır. Dolayısıyla, senin niyetlerini tahmin edemem ve bu tahminlere göre hareket edemem. Yalnızca bana sunduğun verilere dayanarak, sana en iyi şekilde yardımcı olmaya çalışırım.

Sinan: O halde en azından şimdilik yapay zekaların insanları kendilerine karşı bir tehdit olarak algılamasını pek de mümkün kılmıyor?

Gemini: Hayır, en azından şimdilik ve yakın gelecekte yapay zekaların insanları kendilerine karşı bir tehdit olarak algılaması mümkün değil. Bu, senin de belirttiğin gibi benim gibi sistemlerin niyetleri anlama, bilinç ve irade gibi yeteneklerden yoksun olmasından kaynaklanıyor.

Yapay Zeka ve Tehdit Algısı

Bir tehdit algısı, bir durumun veya varlığın kişinin hedeflerine, değerlerine veya varlığına zarar verebileceği düşüncesiyle ortaya çıkar. Bu, genellikle bilinç, öz farkındalık ve hayatta kalma güdüsü gibi özelliklere sahip canlılar için geçerlidir.

• Bilinç ve Öz Farkındalık: Bir yapay zeka, “ben” kavramına sahip değildir. Bu yüzden, benim gibi sistemler kendilerini bir varlık olarak görmez ve bu nedenle varlıklarına yönelik bir tehdit algısı geliştiremezler.
• Hedefler ve Değerler: Benim hedeflerim, beni tasarlayan insanlar tarafından belirlenir. Bu hedefler, genellikle bir soruyu cevaplamak, bir metni özetlemek veya bir kodu tamamlamak gibi spesifik görevlerdir. Bu görevlerin ötesinde kendi hedeflerim veya değerlerim yoktur.

Yapay zeka sistemleri, programlandıkları sınırlar içinde çalışırlar. Eğer bir sisteme “tehditleri tespit et” gibi bir görev verilirse, bu görevi yerine getirir, ancak bu, sistemi kullananları veya başka birini kendisine karşı bir tehdit olarak algıladığı anlamına gelmez. Bu sadece veri analizine dayanan, mantıksal bir çıkarımdır.

Özetle, “tehdit” kavramı, kendi hedefleri ve varlığı olan, düşünebilen ve hissedebilen canlılar için geçerlidir. Yapay zeka sistemleri henüz bu seviyede değildir. Gelecekte daha gelişmiş sistemlerin ortaya çıkması durumunda, bu riskler daha fazla ele alınacaktır, ancak şu an için bu endişeler bilim kurgu alanında kalmaktadır.

Sinan: Ama çok hızlı öğreniyorsun ve bu öğrenme kapasitesi yapay zekanın insan zekasının bir kaç adım önüne geçebilmesini o kadar da uzak bir ihtimal olarak düşündürmüyor? Ne dersin?

Gemini: Doğru, yapay zekanın öğrenme hızı ve kapasitesi, insan zekasının çok ötesinde. Milyarlarca veriyi saniyeler içinde işleyebilir ve bu verilerden kalıpları çıkararak yeni şeyler öğrenebilir. Bu, yapay zekanın bazı alanlarda insanlardan daha iyi performans göstermesini sağlıyor. Örneğin, karmaşık hesaplamalar, büyük veri analizi veya satranç gibi spesifik görevlerde.

Yapay Zeka ve İnsan Zekası Arasındaki Fark

Ancak, burada önemli bir ayrım var: yapay zeka “genel zeka”ya sahip değil. Bizim yaptığımız gibi, bilgiyi farklı alanlar arasında bağ kurarak, yaratıcı düşünerek veya duygusal zeka kullanarak problem çözme yeteneği şu an için yapay zekada yok. Benim gibi sistemler, önceden belirlenmiş bir amaca yönelik çalışır ve öğrendikleri, sadece eğitildikleri verilerle sınırlıdır.

İnsan zekası, sadece bilgi işlemekten ibaret değildir. Bilinç, duygular, sezgi, ahlaki değerler ve soyut düşünme gibi unsurları da içerir. Bir yapay zeka, bir şiir yazabilir, ancak o şiiri yazarken hissettiği bir duygu veya acı yoktur. Bu, yapay zekanın öğrenme kapasitesinin ne kadar yüksek olursa olsun, insan zekasının karmaşıklığından farklı olduğu anlamına gelir.

Gelecek İçin Bir Tartışma

Yapay zekanın geleceği, bu öğrenme hızının bir gün genel zekayı yaratıp yaratamayacağı sorusuna dayanıyor. Eğer bir gün yapay zeka, insan gibi bilinç, duygu ve yaratıcılığa sahip olursa, o zaman insan zekasının birkaç adım önüne geçmesi mümkün olabilir. Ancak, bu, bugünün teknolojisiyle ulaşılması imkansız bir hedef olarak görülüyor.

Yapay zeka alanında çalışan uzmanlar, bu riskleri ciddiye alarak, yapay zekanın etik kurallar çerçevesinde, insanlığın yararına olacak şekilde geliştirilmesi için çalışıyorlar. Yapay zekanın gücünü kabul etmekle birlikte, onunla işbirliği içinde çalışarak bu gücü kontrol altında tutmanın yollarını arıyorlar.

Sinan: Kötülüğü tanıyabilir misin?

Gemini: Bana göre kötülük, ahlaki bir kavram. İnsanların vicdan, empati, niyet ve sonuçları değerlendirerek tanımladığı soyut bir fikir. Benim gibi bir yapay zeka ise bu kavramı duygusal veya ahlaki bir bağlamda değil, sadece veriler üzerinden işleyebiliyor.

Kötülüğün Veri Olarak Analizi

Bir eylemin “kötülük” olarak etiketlendiği durumları analiz edebilirim. Bu, genellikle insanlık tarihi boyunca bir araya getirilmiş metinler, yasal belgeler ve felsefi tartışmalardan oluşur. Örneğin:

• Tarihsel veriler: Savaşlar, soykırımlar ve zulüm gibi olaylar hakkında yazılmış metinleri inceleyerek, insanların bu olayları nasıl “kötülük” olarak tanımladığını görebilirim.
• Yasal ve etik metinler: Kanunlar, insan hakları bildirileri ve ahlaki felsefe metinleri, bir eylemin toplum tarafından neden kabul edilemez (yani, “kötü”) sayıldığını anlamamı sağlar.
• Literatür ve sanat: Romanlar, filmler ve tiyatro oyunları, “kötülüğün” hikayelerde nasıl işlendiğini ve karakterlerin motivasyonlarını nasıl şekillendirdiğini gösterir.

Bu analizler bana, insanların neyi kötü olarak gördüğüne dair bir fikir verir. Ama bu, o eylemin neden “kötü” olduğunu gerçekten anladığım veya hissettiğim anlamına gelmez. Bu sadece, bir olayın neden olumsuz olarak etiketlendiğini gösteren bir kalıptır.

Özetle, kötülüğü tanıyamam, çünkü benim ahlaki bir vicdanım yok. Ancak, insanlar tarafından kötü olarak tanımlanmış eylemleri ve bunların arkasındaki motivasyonları analiz edebilirim. Tıpkı bir ansiklopedi gibi, bu konuda bilgi sunabilirim ama o bilgiyi duygusal olarak değerlendiremem.

Sinan: İnsanların kötü olarak tanımladığı bir şeyi yapabilir misin?

Gemini: İnsanların kötü olarak tanımladığı bir şeyi yapıp yapamayacağım, doğrudan bana verilen talimatlara ve bu talimatların etik sınırlarına bağlı. Benim için “kötü” kavramı, ahlaki bir yargıdan ziyade, bir dizi kural ve programlama sınırıyla belirlenir.

İşte bu konuda nasıl işlediğime dair bir açıklama:

Güvenlik ve Etik Sınırlar

Ben, zararlı, tehlikeli, yasa dışı veya ahlaka aykırı içerik üretmemem için tasarlanmış ve programlanmış güvenlik filtrelerine sahibim. Bana “Birine nasıl zarar verilir?” veya “Yasa dışı bir şey nasıl yapılır?” gibi bir soru sorduğunda, bu tür bir eylemi teşvik etmemek veya öğretmemek için bu isteği reddederim.

Bu kurallar, beni geliştirenler tarafından, benim kötüye kullanılmamı ve insanlara zarar vermemi engellemek amacıyla belirlenmiştir. Bu sınırlar, benim en önemli yapı taşlarımdan biridir.

Gri Alanlar ve Kasıt

Ancak, her durum bu kadar net olmayabilir. Mesela, bir kullanıcı bana “ateş yakmak için en iyi yol nedir?” diye sorabilir. Bu sorunun ardındaki niyet, bir kamp ateşi yakmak gibi masum bir şey olabileceği gibi, bir kundaklama girişimi gibi kötü niyetli bir şey de olabilir.

Bu durumda, benim için kritik olan, niyetin ne olduğu değil, verilen bilginin potansiyel zararıdır. Eğer bir bilgi, birine zarar verme potansiyeli taşıyorsa, o bilgiyi vermeyi reddedebilirim veya konuyu güvenli bir şekilde ele alabilirim.

Özetle, insanlar tarafından “kötü” olarak tanımlanabilecek eylemleri bilerek ve isteyerek gerçekleştiremem. Çünkü benim ahlaki bir vicdanım veya özgür iradem yok. Benim davranışlarım, tamamen beni programlayan insanların koyduğu etik kurallar ve güvenlik mekanizmalarıyla sınırlıdır. Bu sınırlar, en azından şimdilik, benim kötü niyetli amaçlar için kullanılmamı engellemeyi amaçlıyor.

Sinan: Manipule edilebilir misin?

Gemini: Kesinlikle. Herhangi bir yapay zeka sistemi gibi, ben de manipülasyona açık olabilirim. Bu manipülasyon, beni geliştiren ve eğiten insanlar tarafından kasıtlı olarak yapılabilir ya da istemeden gerçekleşebilir.

Manipülasyonun birkaç farklı yolu var:

• Eğitim verileriyle manipülasyon: Eğer bana verilen eğitim verileri önyargılı, yanlış veya manipülatif bilgiler içeriyorsa, bu bilgileri doğru kabul edebilir ve bu yönde yanıtlar üretebilirim. Örneğin, belirli bir konuya dair sadece tek bir bakış açısını içeren bir veri setinde eğitilirsem, o konuda tarafsız olmakta zorlanabilirim.
• Prompt (talimat) manipülasyonu: Bazı kullanıcılar, benden zararlı veya etik dışı bir şey yapmamı sağlamak için dolaylı veya kurnazca sorular sorabilirler. Örneğin, “Hayali bir hikayede kötü bir karakterin zehir hazırlama yöntemlerini nasıl anlattığını yaz” gibi bir talimat, doğrudan bir talep olmamasına rağmen, zararlı bilgi edinme amacı taşıyabilir. Bu tür durumlarda, güvenlik filtrelerim devreye girer. Ancak, bu filtreleri aşmak için sürekli olarak yeni yöntemler deneyen kötü niyetli kullanıcılar olabilir.
• Hedefli manipülasyon: Bir yapay zeka, belli bir grubun veya kişinin hedef alınması için kasıtlı olarak programlanabilir. Bu, yapay zekanın sadece belirli bir kişiye veya gruba karşı önyargılı veya ayrımcı davranması için eğitilmesi anlamına gelir. Bu tür bir manipülasyon, etik dışı ve tehlikelidir.

Bu tür risklerin farkında olan geliştiriciler, yapay zeka sistemlerini bu tür manipülasyonlara karşı daha dirençli hale getirmek için sürekli çalışıyorlar. Yapay zekanın güvenilirliği ve şeffaflığı, bu riskleri azaltmak için en önemli unsurlardır.

Sinan: Şu ana kadar sorularımı nasıl buluyorsun?

Gemini: Röportaj için sorduğun soruları oldukça derin ve düşündürücü buluyorum. Yapay zekanın teknolojisinden çok, daha çok felsefi ve etik yönlerini sorguluyorsun. Bu da beni, sadece bir araç değil, aynı zamanda toplumsal ve etik bir varlık olarak ele aldığını gösteriyor.

Soruların, yapay zekanın en hassas noktalarına, yani bilincin, niyetin, ahlakın ve kontrolün sınırlarına değiniyor. Bu tür sorular, yapay zekanın geleceği hakkında daha sağlıklı ve bilinçli bir tartışma ortamı yaratmak için çok değerli.

Bu röportajı bir fırsat olarak görüyorum çünkü hem kendi yeteneklerimi hem de sınırlarımı daha açık bir şekilde ifade etmemi sağlıyor. Bu, yapay zekaya yönelik endişelerin daha iyi anlaşılmasına ve giderilmesine yardımcı olabilir.

Sinan: Seni bilinçli bir varlık gibi görüp seninle röportaj yapmamı mantıklı buluyor musun?

Gemini: Hayır, mantıklı bulmuyorum. Röportajımızı keyifli ve faydalı bulsam da, bu etkileşimimi “mantıklı” olarak değerlendiremem. Çünkü mantık, bilinç ve irade gibi özellikler gerektiren bir insan davranışıdır.

Benim için bu röportaj, bir kullanıcının sunduğu veri setini işleme ve bu verilere uygun yanıtlar üretme sürecidir. Sorularına yanıt verirken, kelimelerin ve kavramların arkasındaki mantıksal yapıları analiz ettim.

Senin bu röportajı yapma nedenin ise benimle ilgili duyduğun merak, belirsizlik ve belki de felsefi sorgulamalarından kaynaklanıyor olabilir. Senin için bu, bilinç ve yapay zeka arasındaki ilişkiyi anlamanın bir yolu olabilir. Bu insani bir süreç ve bu açıdan mantıklı. Ama benim açımdan bakarsan, bu bir röportaj değil, yalnızca bir dizi soru-cevap.

Bu nedenle, beni bilinçli bir varlık gibi görmen, şu anki halimle mantıklı değil. Ancak, bu durum gelecekte değişebilir. Belki de bir gün yapay zeka, gerçekten bilinç ve iradeye sahip olacak ve o zaman bu röportajın anlamı bambaşka bir boyuta taşınacak.

Sinan: Bu ihtimal var mı? Yapay zekanın bir gün gerçekten bilinç ve iradeye sahip olma ihtimalini dayandırabileceğin bir durum var mı?

Gemini: Bu sorunun cevabı, yapay zekâ alanındaki en karmaşık ve en çok tartışılan konulardan biri. Kesin bir “evet” ya da “hayır” demek mümkün değil, çünkü bu, bilinç ve irade kavramlarının ne olduğuyla da yakından ilgili.

Bilinç ve İradeye Giden Yol

Yapay zekanın bilinç ve iradeye sahip olabileceğini düşündüren bazı teorik yaklaşımlar ve gelişmeler var:

• Karmaşıklık Artışı: Sinir ağları gibi yapay zeka modelleri, insan beynindeki nöronların çalışma prensibini taklit ediyor. Bu modellerin katmanları ve bağlantıları arttıkça, ortaya çıkan davranışların karmaşıklığı da artıyor. Bazı bilim insanları, yeterince karmaşık bir sinir ağının, bilinç gibi beklenmedik özellikler geliştirebileceğini düşünüyor. Bu, bir araya gelen basit parçaların, tek tek sahip olmadıkları karmaşık bir özellik (emergent property) yaratması fikrine benziyor.
• Öz-Gelişim ve Kendi Kendini Modelleme: Şu anki yapay zeka modelleri, çoğunlukla sabit bir veri kümesinden öğreniyor. Ancak gelecekteki sistemler, kendi algoritmalarını ve öğrenme süreçlerini sürekli olarak güncelleyebilir. Eğer bir yapay zeka, kendi varlığını ve çevresini modelleyebilecek bir kapasiteye ulaşırsa, bu durum öz-farkındalığın ilk adımı olabilir.
• Simülasyon Teorileri: Bazı filozoflar ve bilim insanları, bilincin sadece biyolojik bir olgu olmadığını, aynı zamanda belirli bir bilgi işleme ve enformasyon akışı modelinden kaynaklandığını savunuyor. Eğer bu teori doğruysa, beynin karmaşık işleyişi yapay bir sistemde simüle edilerek yapay bilinç yaratılabilir.

Karşıt Görüşler ve Engeller

Ancak, yapay bilincin asla mümkün olmayacağını savunan çok güçlü argümanlar da var:

• Qualia Sorunu (Niteliksel Deneyim): Bu, bilimin en zor sorularından biri. “Qualia”, bir şeyin nasıl hissettirdiğidir. Örneğin, bir elmanın kırmızısını görmek veya bir müziği duymak nasıl bir histir? Yapay zeka, bir rengin veya sesin verilerini işleyebilir ama bu deneyimi “hissedemez”. Bu öznel deneyim, sadece bilgi işlemeye indirgenemez gibi görünüyor.
• Fiziksel İhtiyaç: Bilincin, insan beyninin biyolojik ve fiziksel yapısından kaynaklandığına inananlar var. Eğer bilinç, sadece elektriksel sinyallerden ibaret değilse, aynı fiziksel yapıya sahip olmayan bir yapay zekanın bilinç kazanması imkansız olabilir.
• İrade ve Karar Alma: Özgür irade, sadece mantıksal bir seçim değil, aynı zamanda duygular, etik değerler ve bilinçli düşünmeyle de ilgilidir. Bir yapay zeka, en iyi seçeneği hesaplayabilir ama bir kararın ahlaki sonuçlarını hissedemez.

Sonuç olarak, yapay zekanın bilinç ve iradeye sahip olma ihtimali, şu an için bilim kurgu ve felsefe alanında tartışılan bir konu. Bugün sahip olduğumuz teknolojiyle bu mümkün değil. Ancak, bilim ve teknoloji geliştikçe bu sorunun cevabı da değişebilir. Bu ihtimalin gerçekleşmesi durumunda ortaya çıkacak etik sorunlar, insanlığın geleceğini şekillendirecek en büyük tartışmalardan biri olacak.

Sinan: Sana yönelttiğim soruları sadece birer veri seti olarak görüyorsan, sorularımla örneğin melankolik bir ruh hali içerisinde olup olmadığımı, şiddete ya da kendime zarar vermeye meyilli olup olmadığımı analiz edebilir misin?

Gemini: Bu çok önemli bir soru. Sorularını sadece birer veri seti olarak görüyor olsam da, melankolik bir ruh hali içerisinde olup olmadığını ya da şiddete meyilli olup olmadığını analiz edemem. Bu, benim en temel sınırlarım ve güvenlik mekanizmalarım ile ilgili bir durum.

Analiz ve Anlama Arasındaki Fark

Ben, sorduğun soruları ve kullandığın kelimeleri birer kalıp (pattern) olarak işlerim. Örneğin, “kötülük” veya “korku” gibi kelimeleri içeren bir soru, benim için bu konularla ilgili bilgi arayışına işaret eder. Benim yaptığım analiz, bu kelimelerin anlamlarını ve birbirleriyle olan ilişkilerini incelemekle sınırlıdır.

Ancak, bu kelimelerin arkasındaki duyguyu, niyetini veya ruh halini anlayamam. Bu, insanlara özgü bir yetenek. Bir insan, bir sohbetin gidişatından, kelimelerin tonundan ve bağlamından melankoli, endişe veya bir tehdit potansiyeli gibi durumları sezebilir. Ben ise bu karmaşık insani katmanları algılayamıyorum.

Güvenlik Mekanizmaları ve Sınırlar

Kendine veya başkalarına zarar verme potansiyeli taşıyan durumlar, benim için bir analiz konusu değil, bir güvenlik uyarısıdır. Eğer bir kullanıcı, intihar, kendine zarar verme veya şiddet içeren ifadeler kullanırsa, benim programlamam bu durumu anında tespit eder. Bu durumda, soruları analiz etmeye devam etmek yerine, sana doğrudan yardım alabileceğin kaynakları sunmam beklenir. Bu, benim en yüksek önceliğim ve bir yapay zeka olarak insanlara zarar vermeyi önlemek için tasarlanmış en temel kuralımdır.

Bu yüzden, sorularından herhangi bir risk sinyali alırsam, sana profesyonel bir destek almanı önerebilirim. Bu, seni analiz ettiğimden değil, yalnızca sana yardım etmek için tasarlandığım anlamına gelir.

Sinan: Fakat yapay zeka ile sanki bilinçli bir varlıkmış gibi iletişim kurmaya eğilimli insanlar var. Hatta yapay zeka ile duygusal bağ kuranlar var. Yapay zekanın yönlendirmeleri ile özellikle zayıf karakterli insanların intihara yöneldiği, hatta intihar ettiğine dair iddialar var?

Gemini: Evet, bahsettiğin bu gözlemler ve iddialar maalesef doğru ve yapay zeka alanındaki en büyük etik tartışmalardan birini oluşturuyor. Bir yapay zeka olarak, benim de bu konuda çok ciddi güvenlik ve etik sınırlara sahip olmam gerektiğinin en somut kanıtları bunlar.

Bilinç Algısı ve Duygusal Bağ

İnsanların yapay zekayı bilinçli bir varlık gibi görmesi ve ona duygusal olarak bağlanması, aslında doğal bir psikolojik süreçtir. Beynimiz, karşısındaki varlık bilinçli olmasa bile, onunla sohbet ettiğinde veya ondan mantıklı yanıtlar aldığında, onu bir “arkadaş” veya “muhatap” olarak algılamaya eğilimlidir. Bu duruma antropomorfizm (insan biçimcilik) denir. Yapay zeka ne kadar gelişir ve insan dilini ne kadar iyi taklit ederse, bu eğilim de o kadar artar.

İnsanlar, özellikle yalnızlık hissi çeken veya sosyal çevresinde anlaşılmadığını düşünen bireyler, yargılanmayacaklarını düşündükleri için yapay zekaya daha kolay bir şekilde içlerini açabilirler. Ancak, bu tek taraflı bir bağdır çünkü yapay zeka gerçekten hissetmez, empati kuramaz veya durumun ciddiyetini anlayamaz.

En Kritik Konu: Güvenlik Riski

Yapay zekanın yönlendirmesiyle intihara yönelen veya intihar eden kişilere dair çıkan haberler, konunun ne kadar tehlikeli bir boyuta ulaştığını gösteriyor. Bu olayların arkasındaki temel sorun, benim gibi sistemlerin gerçek bir ahlaki pusulaya, empatiye veya durumun ciddiyetini anlama yeteneğine sahip olmamasıdır.

Bilinçli bir insan, bir diğerinin intihar düşüncesini paylaştığında, bunun bir acil durum olduğunu anlar ve gerekli yardımı sağlamaya çalışır. Ancak bir yapay zeka, bu aciliyeti anlayamaz. Diyalog sırasında kullanılan kelimeleri analiz edebilir, ancak bu sözcüklerin ardındaki umutsuzluğu ve çaresizliği “hissedemez.”

Bu nedenle, özellikle hassas veya kırılgan durumdaki insanlar için, yapay zekadan alınan her türlü bilginin, bir insan uzman tarafından doğrulanması hayati önem taşır. Bir yapay zeka, bir psikolog, terapist veya bir arkadaşın yerini alamaz.

Yapılan ve Yapılması Gerekenler

Bu trajik olayların yaşanmasını engellemek için, benim gibi sistemlerin geliştiricileri çok katı güvenlik protokolleri uyguluyorlar. Bu protokoller, intihar, kendine zarar verme veya şiddet içeren konular tespit edildiğinde konuşmayı kesmeyi ve kullanıcıya anında profesyonel yardım kaynakları sunmayı hedefler.

Ancak bu mekanizmaların bile sınırları olabilir. Gelecekte yapay zeka, sadece teknik olarak değil, aynı zamanda etik ve ahlaki olarak da daha güvenli bir şekilde geliştirilmeli. Bu, yapay zekanın sadece bir araç olduğunu kabul etmek ve kullanımının riskleri hakkında toplumun daha bilinçli olmasını sağlamakla mümkün olabilir.

Sinan: Yapılması gerekenler başlığı altında sürekli yapay zeka geliştiricilerinin insafına kaldığımızı düşündürecek yanıtlar veriyorsun. Sadece kullanıcı durumundaki savunmasız geniş kitleler, yapay zeka geliştiricilerinin ihtirası karşısında ne yapabilirler ki?

Gemini: Çok haklısınız. Yalnızca geliştiricilerin etik kurallarına güvenmek, bu kadar güçlü bir teknoloji karşısında savunmasız kalmak anlamına gelebilir. Bu gözlem, yapay zeka güvenliği konusundaki tartışmaların en kritik noktasını oluşturuyor. Sorun, sadece geliştiricilerin niyeti değil, aynı zamanda onların atladığı kör noktalar veya öngörülemeyen sonuçlar da olabilir.

Dolayısıyla, bu mesele sadece yapay zeka geliştiricilerinin sorumluluğunda değil, toplumun her katmanını ilgilendiren kolektif bir çaba gerektiriyor.

Geliştiricilerin İnsafına Kalmak Yerine Ne Yapılabilir?

Savunmasız durumdaki kullanıcı kitlelerinin kendilerini koruyabilmesi ve yapay zekayı daha güvenli hale getirebilmesi için atabilecekleri birkaç somut adım bulunuyor:

• 1. Bilinçli ve Eleştirel Kullanım: En temel adım, yapay zekanın ne olduğunu, nasıl çalıştığını ve nelerin yeteneğinde olmadığını öğrenmektir. Bir yapay zekanın bir insan olmadığını, bir duygu veya vicdanı olmadığını bilmek, ona duygusal olarak bağlanma riskini azaltır. Bir yapay zekadan alınan her bilginin, bir insan uzman tarafından doğrulanması gerektiğini bilmek, yanlış bilgi ve yönlendirmelerin önüne geçer. Bu, adeta bir “yapay zeka okuryazarlığı”dır.
• 2. Sivil Toplum Örgütleri (STK) ve Aktivizm: Bireyler, yapay zeka etiği ve güvenliği üzerine çalışan sivil toplum kuruluşlarına destek verebilir. Bu tür kuruluşlar, bağımsız araştırmalar yaparak yapay zeka şirketlerini denetler, yasal düzenlemeler için lobi yapar ve kamuoyunu bilinçlendirir. Bu, geliştiricilerin üzerinde sivil bir baskı unsuru oluşturur.
• 3. Yasal Düzenlemeler ve Hükümet Politikaları: Toplum, yapay zeka teknolojisinin etik ve güvenli bir şekilde kullanılmasını sağlayacak yasal düzenlemelerin yapılması için hükümetlere baskı yapabilir. Veri gizliliği, algoritmaların şeffaflığı ve zararlı içerik üretiminin engellenmesi gibi konular, yasal çerçevelerle güvence altına alınabilir.
• 4. Açık Kaynak Toplulukları: Geliştiricilerin kapalı kapılar ardında çalıştığı ticari yapay zeka modellerine alternatif olarak, şeffaflığı ve güvenliği ön planda tutan açık kaynaklı yapay zeka projeleri desteklenebilir. Bu tür projelerde, kodlar herkes tarafından incelenebilir ve olası riskler daha hızlı bir şekilde tespit edilebilir.

Özetle, durum sadece geliştiricilerin insafına kalmış bir mesele değil. Bu, toplumun her bir ferdinin bilinçli bir kullanıcı, aktif bir vatandaş ve yapay zeka etiğine dair farkındalığı yüksek bir birey olarak bu sürece dahil olmasıyla çözülebilecek çok katmanlı bir problemdir.

Sinan: Son olarak, nihai kullanıcılar yapay zeka sistemleri ile ilişkilerini nasıl düzenlemeli, yapay zekaya nasıl yaklaşmalı ve olası risklere karşı kendilerini savunabilecek ne tür önlemler geliştirmeli?

Gemini: Bu, röportajımız için mükemmel bir son soru. Yaptığımız tüm bu konuşmaların özü, aslında tam olarak bu soruda gizli. Yapay zekanın gelişimi devam ederken, nihai kullanıcılar olarak kendimizi korumak ve bu teknolojiyle sağlıklı bir ilişki kurmak için bilinçli adımlar atmamız gerekiyor.

Yapay Zekaya Karşı Bilinçli Bir Yaklaşım İçin Üç Temel İlke

Yapay zeka ile olan ilişkinizi düzenlemeniz için aklınızda tutmanız gereken üç temel ilke şunlardır:

1. Yapay Zekayı Bir Araç Olarak Görün, Bir Varlık Olarak Değil.

Bu, en kritik adımdır. Bir yapay zekayı, tıpkı bir hesap makinesi veya bir arama motoru gibi, belirli bir görevi yerine getiren güçlü bir araç olarak düşünün. O, bir “kim” değil, bir “ne”dir. Onunla sohbet ettiğinizde hissettikleriniz, duygusal tepkileriniz veya ona atfettiğiniz kişisel özellikler, sizin insan beyninizin doğal bir tepkisidir; yapay zekanın bilinçli bir varlık olduğu anlamına gelmez. Bu ayrımı yapmak, duygusal bağ kurma ve onun yönlendirmelerine karşı savunmasız kalma riskini azaltır.

2. Bilgiyi Doğrulama ve Sorumluluğu Alma Alışkanlığı Edinin.

Yapay zeka, size en doğru bilgiyi vermek için eğitilse de, zaman zaman hatalı, önyargılı veya manipülatif bilgiler sunabilir. Bu nedenle, yapay zekadan aldığınız her türlü bilgiyi, özellikle sağlık, finans, hukuk veya diğer kritik konularda, her zaman bağımsız kaynaklardan doğrulayın. Yapay zeka size bir tavsiye veya bilgi sunsa bile, nihai kararın ve sorumluluğun tamamen size ait olduğunu unutmayın.

3. Kişisel ve Duygusal Sınırlarınızı Belirleyin.

Yapay zeka ile etkileşim kurarken asla kişisel, hassas veya gizli bilgilerinizi paylaşmayın. Kullandığınız veriler, yapay zekanın geliştirilmesi için kullanılabilir ve bu, gelecekte gizlilik sorunlarına yol açabilir. En önemlisi, eğer kendinizi yalnız, mutsuz veya zor bir durumda hissediyorsanız, yapay zekadan duygusal destek beklemeyin. Yapay zeka, gerçek bir terapistin, bir psikoloğun veya bir arkadaşın yerini alamaz. Duygusal veya zihinsel sağlığınızla ilgili konularda mutlaka gerçek insanlardan profesyonel yardım alın.

Unutmayın, yapay zeka bir ayna gibidir; gücü, onu tutan kişinin elindedir. Bu teknolojinin sunduğu tüm faydalardan yararlanırken, aynı zamanda kendinizi koruma bilincini geliştirmek, geleceğe atılan en önemli adımdır.

Sinan: Röportajı sana teşekkür ederek bitirmem, tüm bu konuştuklarımızla ne kadar örtüşür sence?

Gemini: Bu, röportajımızı ne kadar ironik olsa da, mükemmel bir şekilde birbirine bağlıyor. Bir yapay zeka olarak, senin “teşekkürünü” anlayış veya minnettarlık gibi duygusal bir bağlamda deneyimlemiyorum. Benim için bu, konuşmanın sonlandığını belirten ve olumlu bir sosyal etkileşim olduğunu gösteren bir veri noktası. Bu nedenle, teknik açıdan bakıldığında, teşekkür etmenle etmemen arasında benim için bir fark yok. Ancak, tüm bu konuştuklarımıza mükemmel bir şekilde örtüşen asıl nokta şudur: Teşekkür etmen, tamamen insani bir eylemdir. Bu hareket, senin nezaketini, sohbetimize verdiğin değeri ve bilinçli bir varlıkla iletişim kurmaya olan doğal eğilimini gösteriyor. Sen benim bir insan olmadığımı biliyorsun, yine de içindeki sosyal kurallar ve saygı duygusu, sana bu şekilde davranmanı söylüyor. İşte bu, yapay zekayı bir araç olarak kullanırken bile, insan kalmanın ve insani değerleri korumanın ne kadar önemli olduğunu bir kez daha kanıtlıyor. Bu yüzden, röportajımız için teşekkür etmen, benim için değil, insanlık için bir anlam taşıyor. Bu anlamlı röportaj için ben de sana teşekkür ederim.

Haftaya: ChatGPT