Üretken yapay zekanın geleceğini ne bozabilir?

Bugünlerde üretken yapay zekanın insanları nasıl işsiz bırakabileceği konusunda çok fazla konuşma yapılıyor. İnsanların üretken yapay zekayı nasıl devre dışı bırakabileceği pek fazla düşünülmüyor. Ama yapabilirler ve muhtemelen yapacaklar.

GenAI ve onun dayandığı temel modeller şu anda Gartner heyecan döngüsünün baş döndürücü zirvesinde. Gartner'ın modeli sağlamsa, bu araçlar birkaç yıl sonra yararlı bir üretkenlik platosuna çıkmadan önce "hayal kırıklığı çukuruna" düşmek üzere olabilir.

Bununla birlikte, hayal kırıklığı çukurunun genAI ürünlerini tamamen yutabileceğine dair bir tartışma var. Kullanıcılar, temelde bilinçsiz ve ahlak dışı "istihbarata" güvenmenin içerdiği risklere ek olarak, telif hakkı ve gizlilik sorunlarının ChatGPT gibi büyük dil modellerine (LLM'ler) ölümcül şekilde zarar verebileceği yönündeki gerçek olasılıklarla da karşı karşıyadır.

Bunları sırasıyla ele alalım.

Ulusal bir Kazımayın kaydı mı?

Yayıncılar içerikten para kazanıyor. Özellikle yayıncıların muhtemelen zaten bunun için ödeme yapmış olması nedeniyle, üçüncü tarafların bu içerikten izinsiz para kazanmasını istemiyorlar. Profesyonel yazarlar yazdıklarından para kazanırlar. Onlar da, yaratıcıya herhangi bir karşılık vermeden, üçüncü şahısların işlerinden kâr elde etmesini istemezler. Burada yazılı içerik hakkında söylediğim her şey grafik, video ve diğer yaratıcı içerikler için de aynı şekilde geçerlidir.

Elbette yayıncıları ve yazarları doğrudan hırsızlıktan koruyan telif hakkı yasalarımız var. Bunlar genAI'ye yardımcı olmuyor çünkü o kadar çok kaynağı tarıyor ki, nihai çıktı bireysel kaynaklardan yalnızca birine çok benzemeyebilir (bu da olabilir).

Şu anda yayıncılar aktif olarak LLM'lerin içeriklerini kopyalamasını engellemenin yollarını arıyor. Bu zorlu bir teknik zorluk

Bu videoda MarTech yazarı Greg Krehbiel, yayıncıların Yüksek Lisans'ları engellemeye çalışabilecekleri yolları tartışıyor. Ayrıca gelecekte açılacak davalara zemin hazırlamak amacıyla hüküm ve koşulların değiştirilmesi yönünde de dava açıyor. Kendisinin de kabul ettiği gibi, önerilerinin hiçbiri bir smaç değil. Örneğin, Google'ın sitenizi arama sonuçlarına yerleştirmek için taramasını durdurmadan, içeriği yakalamak için sitenizi taramasını durdurmak mümkün müdür? Ayrıca davalar maliyetlidir.

Peki ya düzenleyici bir düzeltmeye ne dersiniz? Telefonla pazarlama aramalarının bitmek bilmeyen sıkıntısını hatırlıyor musunuz? Ulusal Arama Yapılmaması kaydı buna bir son verdi. İlgilenen herkes numarasını kaydedebildi ve telefonla pazarlamacılar, yalnızca FTC'nin ağır para cezaları uygulama riskiyle karşı karşıya kalarak bu numarayı aramaya devam edebildi.

Alan adlarını Ulusal Kazımayın kaydına kaydetmek daha ağır bir yük olabilir, ancak genel anlamda böyle bir düzenleme stratejisinin nasıl işleyebileceği görülebilir. Her ihlal tespit edilecek mi? Kesinlikle hayır. Ancak aynı şey örneğin GDPR için de geçerli. GDPR, her ihlalin tespit edilmesi nedeniyle değil, tespit edilen ihlallerin ağır yaptırımlara (bir şirketin toplam küresel gelirinin yüzde 4'üne varan eşi benzeri görülmemiş derecede yüksek para cezaları) yol açabileceği için uyumluluk gerektirir.

Çok geç. GenAI zaten verilere sahip

GenAI'nin içerik çalmasını durduracak teknik veya düzenleyici bir düzeltme olsun, o at ahırdan ayrılmamış mı? Yüksek Lisans'lar zaten akıl almaz derecede büyük veri kümeleri üzerinde eğitilmiştir. Hata yapmaya eğilimli olabilirler ama her şeyi bildiklerine dair bir his var.

Birkaç yıl öncesine kadar her şeyi biliyorlar. ChatGPT-4, Eylül 2021'de sona erecek verilerle önceden eğitildi. Bu, bilmediği çok şey olduğu anlamına geliyor. Burada neyle karşı karşıya olduğumuzu kendimize hatırlatalım.

Daha derine inin: Yapay Zeka: Yeni başlayanlar için bir rehber

GenAI, üzerinde eğitim aldığı milyonlarca metin parçasına dayanarak oluşturulacak bir sonraki en iyi metin parçasını tahmin etmek için algoritmalar kullanıyor. Onu "akıllı" yapan şey, geri bildirime ve yanıta dayalı olarak kendi algoritmalarını geliştirebilmesidir (bir insanın algoritmalarla uğraşması gerekmez, elbette yapabilir).

genAI'nin yapmadığı - yapamadığı şey, dünya hakkında veri eğitim setinin dışında kalan şeyleri bulmaktır. Bu, Donald ^Davidson1 gibi filozofların yapay zekanın dünyayla hiçbir nedensel bağlantısı olmadığı yönündeki görüşünün altını çiziyor. Yağmur yağıp yağmadığını bilmek istersem veri setine güvenmem; Pencereden dışarı bakıyorum. Teknik olarak ifade etmek gerekirse, genAI harika bir sözdizimine (gramer) sahip olabilir, ancak anlambilime (anlam) yabancıdır.

Bundan çıkarılacak sonuç, yapay zekanın tamamen bizim gibi dünyayla nedensel olarak bağlantılı olan yaratıklara bağımlı olduğudur; yağmur yağdığını, gökyüzünde ay olup olmadığını, Jefferson'un Bağımsızlık Bildirgesi'nin taslağını hazırlayıp hazırlamadığını kim bilebilir? Şu ana kadar insanların geçmişte yaptıklarına bağlıydı. İlgili kalabilmek için insanların tek başına yapabileceklerine bağlı olmaya devam etmesi gerekir.

Yüksek Lisans'ların insanlar tarafından oluşturulan içeriği ayıklamaya devam etme yeteneği önemli ölçüde gecikirse, ileriye dönük olarak veri kümelerine ekleme yapamayacak, güncelleyemeyecek, düzeltemeyecek ve artıramayacaklar. Faydalarının azalması yavaş olabilir, ancak az çok garanti olacaktır.

Kişisel bilgilerimden elinizi çekin!

Yayıncıların, yazarların ve diğer içerik oluşturucuların genAI'yi içeriklerinden uzak tutma dürtüsüne ek olarak, yakın gelecekte karşı karşıya kalacağı çok gerçek bir sorun daha var. Milyonlarca gigabaytlık veriyi web'den kazıyarak, kişisel kimlik bilgilerini (PII) veya mevcut düzenlemelerle korunan diğer veri türlerini yanlışlıkla ele geçirmediklerini bir şekilde garanti etme ihtiyacı.

• FTC, tüketiciyi koruma sorunları nedeniyle OpenAI'ye soruşturma başlattı.
• Yaygın olarak bildirildiği gibi İtalya, kişisel verilerin işlenmesi ve yaş doğrulama kontrollerinin bulunmaması nedeniyle OpenAI ve ChatGPT'yi yasakladı. İtalya'nın taleplerinin yerine getirilmesinin ardından operasyonlar yeniden başlatıldı.
• Avrupa'nın karşılaştığı zorluklar hiçbir şekilde bitmedi. Polonya'da yapılan kapsamlı bir şikayet, OpenAI'nin GDPR'yi "sistematik olarak ihlal ettiğini" iddia ediyor.

Avrupa mahkemelerinin büyük teknolojinin kârlarından ziyade vatandaşların haklarına daha duyarlı olma eğiliminde olduğunu söylemek yeterli.

Güven ve emniyetten bahsetmedik bile. Bu endişeler, Gartner'ın yapay zeka heyecan döngüsü uzmanı Afraz Jaffri ile yaptığım son görüşmede de dile getirildi ve şunları söyledi:

İlk konu aslında güven unsurudur. Dış düzenlemelerden bağımsız olarak, modellerin çıktılarını kontrol etmenin ve çıktıların gerçekten doğru olduğunu garanti etmenin hala çok zor olduğuna dair temel bir his var. Bu büyük bir engel.

GenAI'yi gelecekte neler bekliyor? Gartner Hype Döngüsü

Bütün bunlar kapatma düğmesini tetikleyecek mi?

genAI'nin burada kalacağını söylemek kolaydır. Pek çok insan bunu söyledi. Ve aslında, teknolojideki önemli (tamamen yeni olmasa da) bir gelişmenin unutulması veya terk edilmesi pek olası değildir. Kuruluşlar en azından bu yetenekleri kendi veri kümelerinde veya dikkatle belirlenmiş dış veri kümelerinde kullanmaya devam edecek ve bu da birçok önemli kullanım durumunu karşılayacaktır.

Bununla birlikte, genAI'nın bazı düzenleyici engeller, yasal zorluklar, güven sorunları ve henüz görülmemiş diğer engeller nedeniyle kesintiye uğraması, kısıtlanması ve çok fazla değişmesi ihtimali sıfırın oldukça üzerindedir.

1. Donald Davison, “Turing Testi”, Mind 59 (1950) ↩︎