ChatGPT’ye “Gökyüzü neden mavi?” diye sorun. ve saniyeler sonra size şunu söyleyecektir: “Gökyüzünün mavi rengi öncelikle Rayleigh saçılması adı verilen bir olgudan kaynaklanmaktadır.” Chatbot bunu ders kitabına benzer altı paragraflık bir yanıtla açıklamaya devam ediyor. Devamında “5 yaşındaymışım gibi anlatın ve kısaltın lütfen” deyin ve geri dönüş gelecektir: “Gökyüzü mavi çünkü havadaki küçük şeyler güneşten gelen mavi ışığın etrafa sıçrayıp gözlerimize gelmesine neden oluyor.”
ChatGPT bir tür üretken yapay zekadır. Bu, bir cümledeki sonraki kelimeleri tahmin etmek için dil kalıplarından yararlanan ve kullanıcının istemine insani bir yanıtla yanıt veren bir bilgisayar modelidir. Model, belirsiz bir şekilde beyindeki sinir bağlantılarından ilham alan, birbirine bağlı düğümlerden oluşan birçok katmanla yapılandırılmıştır. Bir eğitim süresi boyunca birbirine bağlı düğümler, internetten alınan milyarlarca yazı parçasını inceledi ve farklı düğüm bağlantılarının gücünü değiştirerek kalıpları öğrendi. Diğer üretken yapay zeka türleri, resim, video ve daha fazlasını oluşturmak üzere eğitildi.
Geçen yılın sonlarında piyasaya sürülen ChatGPT, üretken yapay zekanın görünürlüğünü artırarak halkın hayal gücünü hızla cezbetti. Bunu Google’ın Bard’ı gibi daha fazla sohbet robotu takip etti. Ancak bu dedikoduların ortasında, eleştirmenler üretken yapay zekanın hataları, önyargıları ve intihalleri konusunda uyardılar (SN: 4/12/23). Kasım ayının ortasında, ChatGPT’yi ve DALL-E 3 gibi diğer üretken yapay zeka modellerini geliştiren şirket OpenAI’nin CEO’su Sam Altman kovuldu ve günler sonra yeniden işe alındı. Buna karşılık şirketin yönetim kurulunun çoğu istifa etti. Bu çalkantı, teknolojinin zarar vermemesini sağlayacak güvenlik önlemlerini almadan, üretken yapay zekayı ticarileştirme konusunda acele etme konusunda yaygın bir tartışmayı ateşledi.
Science News, üretken yapay zekanın nasıl manşetlere çıktığını ve gelecekte ne olacağını anlamak için dünyanın önde gelen yapay zeka uzmanlarından biri olan Santa Fe Enstitüsü’nden Melanie Mitchell ile görüştü. Bu röportaj, uzunluk ve netlik açısından düzenlendi.
SN: Üretken yapay zeka bu yıl neden büyüktü?
Mitchell: Dilimiz vardı Uzun yıllardır modeller. Ancak ChatGPT gibi sistemlerin çığır açan özelliği, diyalog ortağı ve asistanı olmak için çok daha fazla eğitim almış olmalarıdır. Çok daha fazla veri üzerinde eğitildiler. Milyarlardan trilyonlara kadar çok daha fazla bağlantıları vardı. Ayrıca kullanımı oldukça kolay bir arayüzle kamuoyunun beğenisine sunuldu. Gerçekten de bu şeyler onların yükselişe geçmesini sağladı ve insanlar ne kadar insana benzedikleri karşısında hayrete düştüler.
SN: Üretken yapay zekanın en büyük etkiyi nerede yaratacağını düşünüyorsunuz?
Mitchell: Bu hâlâ büyük, ucu açık bir soru. ChatGPT’ye bir istem gönderebilirim, lütfen makalem için bu noktaları içeren bir özet yazın diyebilirsiniz ve bu genellikle oldukça iyi bir özet verecektir. Bir asistan olarak inanılmaz derecede faydalıdır. Üretken görüntüler için sistemler hazır görüntüler üretebilir. Sadece köpeği gezdiren bir robotun görüntüsüne ihtiyacım olduğunu söyleyebilirsiniz ve o bunu üretecektir. Ancak bu sistemler mükemmel değildir. Hata yapıyorlar. Bazen “halüsinasyon görürler”. ChatGPT’den bir konu hakkında bir makale yazmasını ve ayrıca bazı alıntılar eklemesini istersem, bazen var olmayan alıntılar oluşturacaktır. Ayrıca doğru olmayan metinler de üretebilir.
SN: Başka kaygılar var mı?
Mitchell: Bunlar çok fazla bilgi gerektiriyor. enerji. Çok fazla elektriğe ihtiyaç duyan ve soğutma için çok fazla su kullanan çok sayıda bilgisayarın bulunduğu dev veri merkezlerinde çalışıyorlar. Yani çevresel bir etki var. Bu sistemler insan dili üzerine eğitilmiştir ve insan toplumunda, bu sistemlerin benimsediği dile yansıyan çok sayıda önyargı vardır (ırk, cinsiyet ve diğer demografik önyargılar).
Orada yakın zamanda, insanların beyaz çocukları tedavi eden Siyah bir doktorun resmini oluşturmak için nasıl bir metin-görüntü sistemi almaya çalıştıklarını anlatan bir makaleydi. Ve bunu üretmesini sağlamak çok zordu.
Bu sistemlerin, matematik problemlerini çözebilmek veya baro sınavı gibi standart testleri geçebilmek gibi belirli muhakeme yeteneklerine sahip olduğu konusunda birçok iddia var. Bu akıl yürütmenin sağlam olup olmadığına dair, bu akıl yürütmeyi nasıl yaptıklarına dair gerçekten bir fikrimiz yok. Sorunu biraz değiştirseniz yine de çözebilecekler mi? Bu sistemlerin eğitildikleri konuların ötesinde genelleme yapıp yapamayacakları veya yalnızca eğitim verilerine çok fazla güvenip güvenmedikleri belirsizdir. Bu büyük bir tartışma.
SN: Bu abartılı reklam hakkında ne düşünüyorsunuz?
Mitchell: İnsanların yapay zekanın bir yapay zeka olduğunun farkında olması gerekiyor. 1950’lerdeki başlangıcından bu yana heyecanlanma eğiliminde olan ve iddialara biraz şüpheci yaklaşan bir alan. Bu iddiaların çok abartılı olduğunu tekrar tekrar gördük. Bunlar insan değil. Her ne kadar insana benzeseler de birçok yönden farklıdırlar. İnsanlar bunları insan zekamızın yerini alacak değil, artıracak bir araç olarak görmeli ve onlara çok fazla özerklik vermek yerine döngüde bir insanın olduğundan emin olmalı.
SN: Son zamanlarda yaşanan gelişmeler ne gibi sonuçlar doğurabilir? OpenAI’deki çalkantı, üretken yapay zeka ortamı açısından ne anlama geliyor?
Mitchell: [Bu ayaklanma] zaten bildiğimiz bir şeyi gösteriyor. Yapay zeka topluluğunda, hem araştırma hem de ticari yapay zeka açısından, yapay zeka güvenliği hakkında nasıl düşünmemiz gerektiği, bu yapay zeka sistemlerinin halka ne kadar hızlı sunulması gerektiği ve hangi korkulukların gerekli olduğu konusunda bir tür kutuplaşma var. Sanırım bu, yapay zeka sistemlerinin nasıl korunması gerektiğine ilişkin bu büyük kararları almak için şu anda gücün yoğunlaştığı büyük şirketlere güvenmememiz gerektiğini çok açık bir şekilde ortaya koyuyor. Daha fazla güce sahip olmak için gerçekten bağımsız insanlara, örneğin hükümet düzenlemelerine veya bağımsız etik kurullarına ihtiyacımız var.
SN: Bundan sonra ne olmasını umuyorsunuz?
{ 3}Mitchell: Bu sistemlerin ne olduğu, neler yapabileceği ve nasıl gelişeceği konusunda bir miktar belirsizlik içerisindeyiz. Umarım olası zararları azaltan ancak çok yararlı olabilecek bir teknolojiye çok fazla kısıtlama getirmeyen makul bir düzenleme buluruz.