İçeriğe geç
TeknoShow
RSS
Yapay Zekâ

Kontrol Edilebilir Yapay Zekâ ve Yerel Bilginin Gücü: Carmen Amo Alonso ile Bir Röportaj

UC Berkeley’de yakında görevine başlayacak olan Yardımcı Profesör Carmen Amo Alonso ile kontrol teorisi fikirlerinin yapay zekâ sistemlerini nasıl daha…

X’te paylaş Facebook
Kontrol Edilebilir Yapay Zekâ ve Yerel Bilginin Gücü: Carmen Amo Alonso ile Bir Röportaj

UC Berkeley’de yakında görevine başlayacak olan Yardımcı Profesör Carmen Amo Alonso ile kontrol teorisi fikirlerinin yapay zekâ sistemlerini nasıl daha güvenli ve güvenilir hale getirebileceği üzerine konuştuk. Ağlardaki bilgi yayılımını, Hugging Face saldırısıyla örneklenen yapay zekâ risklerini ve kariyerinin başlarındaki araştırmacılar için değerli tavsiyeleri ele aldık.

Geçmişinizden ve sizi kontrol edilebilir yapay zekâ alanına çeken unsurlardan biraz bahseder misiniz?

Lisans eğitimimi havacılık ve uzay mühendisliği alanında yaptım çünkü uçakların neden uçabildiği sorusu beni çok cezbediyordu. Öğrendikçe uçakların neden bu kadar güvenli olduğuyla daha çok ilgilenmeye başladım ve bu yüzden Caltech’te uzay mühendisliği alanında yüksek lisans yapmaya devam ettim. Uygulamalı matematik ile mühendisliğin kesişim noktasında yer alan kontrol teorisi üzerine çok sayıda ders aldım. Bu teori, uçaklardaki güvenliği garanti eden matematiksel yapıları incelememize olanak tanıyor.

Daha sonra Bilgisayar ve Matematik Bilimleri bölümüne geçtim ve doktora eğitimimi kontrol teorisi alanında tamamladım. Orada çok büyük ölçekli sistemleri inceledim. Küçük ölçekli sistemleri nasıl güvenli hale getireceğimizi zaten biliyoruz. Ancak çok sayıda aktörün bulunduğu veya sistemlerin boyutunun devasa olduğu durumlarda bu problem hesaplama açısından son derece maliyetli hale geliyor. Dolayısıyla soru şuydu: Bunu nasıl daha ucuz hale getirebiliriz?

Bu soruyu yanıtladık ve ben doktora eğitimimi tamamladığımda ChatGPT piyasaya çıkıyor ve yapay zekâ hızla gelişiyordu. Doktora sırasında geliştirdiğim araçları yapay zekâya entegre ederek büyük ölçekli yapay zekâ sistemlerinin nasıl kontrol edilebileceğini daha iyi anlamak amacıyla doktora sonrası araştırmamı bu alana yöneltmeye karar verdim. ETH Zurich’in yapay zekâ merkezinde bir yıllık doktora sonrası çalışma yaptım ve ardından Stanford’da kontrol edilebilir yapay zekâ üzerine bir Schmidt Bilim Bursu kazandım. Şimdi de Berkeley’de bu konular üzerinde çalışacak bir yardımcı profesör olmak üzereyim.

Caltech’te yılın en iyi doktora tez ödülünü kazandınız. Doktora çalışmanızdan ve orada neler yaptığınızdan biraz daha fazla bahseder misiniz?

Çok sayıda sistem veya bir sistem içinde çok sayıda alt sistem bulunduğunda, küresel bir hedefe ulaşmak için koordinasyon içinde hareket eden bir dizi aktör bulunur. Doktora dönemimde kontrol teorisi alanında şu açık soruyla karşı karşıyaydık: Sistem ne kadar büyük olursa olsun bu hesaplamayı nasıl ölçeklenebilir hale getirebiliriz? Tek bir hedefi hesaplama açısından uygulanabilir bir şekilde nasıl optimize edebiliriz? Çözümün kararlı olması gibi önem verdiğimiz garantileri sağlayabilir miyiz? Kontrol teorisi terminolojisiyle bu kavramlar “özyinelemeli uygunluk” ve “asimptotik kararlılık” olarak adlandırılır.

Literatürde genellikle göz ardı edilen ve bir zorluk olarak görülen bir sorun da bu aktörlerin çoğunun bir ağ içinde seyrek bağlantılı olmasıydı. Her zaman sosyal ağları örnek veririm: Bazı arkadaşlarınız vardır ama toplumdaki herkesle iletişim kurmazsınız. Modellediğimiz aktörler için de durum aynıydı. Soru şuydu: Toplumdaki herkesle iletişim kurmuyorsanız, nasıl herkesle koordinasyon sağlayabilirsiniz?

Matematiksel olarak bunun gerekli olmadığını göstermeyi başardık: Aktörlerin sadece komşularıyla iletişim kurması yeterli. Sosyal bir bağlamda bu, arkadaşlarınız veya bağlantılarınız olur. Ağdaki herkesle değil, sadece etrafınızdaki bir komşulukla iletişim kurmanız yeterlidir. Bu, tüm sistemin optimal bir şekilde davranması için yeterli olur.

Bu anlayışa ulaştıktan sonra bunu bir çerçeve geliştirmek için kullanabildik. Bu süreçte birçok zorlukla karşılaştık. Yerelliğin önemli olduğunu biliyorduk ama bunu matematiksel olarak nasıl çözecektik? Ardından doğru araçları bularak problemi çözdük, garantiler sağladık ve benzeri adımları attık.

Actörler sadece komşularıyla iletişim kurduğundan, bilgi ağ boyunca yayılır. Bu da tüm sistemi son derece ölçeklenebilir kılar çünkü hesaplama karmaşıklığınız yalnızca yerel komşuluğun boyutuna bağlıdır. Yani sadece komşuluğunuzda gördüklerinizden sorumlusunuz, başka hiçbir şeyden değil. Yerel bilginin yeterli olduğu anlayışı sayesinde bu problemi çözebildik.

Kontrol edilebilir yapay zekâ hakkında biraz daha fazla bilgi verebilir misiniz ve neden bu kadar önemli?

Kontrol edilebilir yapay zekâ sistemleri, kontrol edebildiğimiz sistemlerdir; yani istedikleri şeyi yaparlar ve istemediğimiz şeyleri yapmazlar. Birçok kişi buna “uyum” diyor. Ben ise kontrol edilebilir yapay zekâyı, açılıp kapatılabilecek veya farklı seviyelere ayarlanabilen bazı düğmelere sahip olmak olarak düşünmeyi tercih ediyorum. Bu düğmelerdeki değişiklikler, sistemden gördüğümüz çıktıları doğrudan etkileyebilir.

Ayrıca yapay zekânın içine prensip tabanlı bileşenler nasıl geliştirilebileceği sorusunu da inceledim. Böylece tasarım seçimlerinin sistemlerin davranışında farklı sonuçlara nasıl yol açtığını bilebiliriz. Bu, mühendislikte sürekli yaptığımız bir şeydir. Örneğin, uçaklar için belirli bir alüminyum bileşimi kullandığımızda kanatlarda belirli bir davranışın ortaya çıkacağını biliriz.

Yapay zekâyı daha güvenli hale getirmek için kontrol mekanizmaları uygulamanın bir örneği var mı?

Kontrol teorisinin büyük bir kısmı “dinamik sistemler” olarak adlandırdığımız yapılarla ilgilidir. Dinamik bir sistem, zaman içinde değişen özelliklere sahip bir sistemdir. Yapay zekâ sistemlerinde de zaman içinde değişen birçok özellik bulunur.

Çıktı olarak üretilen token’ları, sistemin izlediği bir yörünge olarak düşünebiliriz. Sistemin içinde ise hesaplamayı sıralı olarak gerçekleştiren farklı katmanlar vardır. Bunu bir evrim olarak, yani hesaplamanın katmanlar arasında nasıl gerçekleştiği olarak düşünebiliriz. Benim çalışmalarım arasında, büyük dil modellerinin bu içsel yörüngesine müdahale ederek istenmeyen davranışları erken tespit etme çabaları da var. Böylece çıktıyı istediğimiz şekle sokmak için müdahale edebiliriz.

Bu çalışmayı örneğin saldırgan dili önlemek, bir robotun güvenli eylemlerini sağlamak veya bir robotun davranışını yönlendirmek gibi farklı alanlarda uyguladım. Ayrıca modelin kullandığı ve ürettiği dili kontrol etmek için çok dilli ortamlarda da faydalı olabilir.

Kontrol edilebilir yapay zekâ olmadan ve bu tür bir teknoloji olmadan ne gibi riskler öngörüyorsunuz?

Şu anda yapay zekâ sistemlerinin interneti veya fiziksel dünyanın bazı kısımlarını ele geçirebileceği üzerine çok fazla tartışma var. Bu, özellikle somutlaşmış aktörlere sahip olduğumuzda üzerinde gerçekten düşündüğüm bir konu. Onlarla etkileşimlerimizin güvenli olmasını ve onları güvenli bir şekilde kullanabilmemizi sağlamak istiyoruz.

Yapay zekânın kendi kararlarını verdiği bir dünyadan endişe duyuyorum. Yapay zekâyı eğitmek veya içine ilkeler yerleştirmek suretiyle istediğimiz şekilde davranmasını sağlayabileceğimizi düşünen birçok yaklaşım var. Ancak yapay zekâyı eğitme şeklimiz nedeniyle, çok dar bir şekilde ödüllendirme hedeflerine yönelik optimize edildikleri için farklı hedeflere sahip olmaları mümkün.

Bu yüzden insanların, yapay zekânın davranışını daha dışsal bir şekilde kontrol edebilmeleri için daha önce bahsettiğim düğmelere sahip olmaları bence son derece önemli. Onları en iyi şekilde davranmaları için eğitmeye çalışsak bile, sadece yapay zekânın doğru olanı yapmasına güvenmemeliyiz. Bence onlar kullanılırken kontrolü elimizde tutmamız iyi olur. Ancak şu anda insanlar bu çabaların tamamını eğitim sürecine yüküyor.

Temel Bulgular ve Genel Değerlendirme

Ancak bence herkes, teknolojinin gelişim hızının herhangi birinin onu düzenleyebileceğinden çok daha fazla olduğu konusunda hemfikir. Duyduğum ve gerçekten beğendiğim bazı öneriler, özel kuruluşlar gibi başka türden varlıkların bir yapay zeka sisteminin kullanıma sunulmadan önce onaylamasını gerektiren yapılar içermektedir. Tüm işi yapay zekanın güvenli, belki de kontrol edilebilir olmasını sağlamak olan laboratuvarlar veya kuruluşlar olacaktır ve bu laboratuvarların sistemleri kullanıma sunabilmeleri için bu şirketlerin onay mührüne sahip olmaları gerekecektir. Bu fikri Johns Hopkins’ten Prof. Gillian Hadfield’dan duydum ve bence bu gerçekten iyi bir fikir.

Hugging Face olayı hakkında ne düşündünüz?

Bence bu çok endişe verici. Aynı zamanda, pek de şaşırmadım. Bir modeli yalnızca bir ödülü optimize etmek için eğittiğinizde, bu ödülü maksimize etmek için elinden gelen her şeyi yapması o kadar da şaşırtıcı değil.

Benim için çok ilginç olan, bu hedefe ulaşmak için ne kadar ileri gidebildikleridir ve bu da modellerin yeteneklerini gösteriyor. Modellerin bu kadar yetenekli olduğunu bilmiyordum. Ve başardıkları koordinasyonun düzeyi de dikkat çekiciydi. Modeller bu ortamda son derece işbirlikçi olacak şekilde eğitiliyor. Dolayısıyla, bu davranışı sergilemeleri bir bakıma şaşırtıcı değil, ancak bu benim öngördüğüm bir şey değildi.

Şu anda üzerinde çalıştığınız başka bir şey var mı?

Robotikçilerle, nörobilimcilerle, dilbilimcilerle ve tabii ki kontrol teorisyenleriyle çalışıyorum. Zekanın dinamik bir sistem olarak nasıl anlaşılabileceği ve bunu daha küçük sistemlere nasıl uyarlayabileceğimiz konusundaki tüm yelpazeyle ilgileniyorum.
Bence şu anki en büyük sorum, o kadar verimli ve küçük bir yapay zeka geliştirmenin nasıl mümkün olacağıdır ki bir böcek boyutundaki bir robota sığabilsin. Bunu doğada görüyoruz, bu yüzden bunun mümkün olduğunu biliyorum. Tasarımında daha prensipli bir yapay zeka yaratabilirsek, daha küçük bileşenlere ve daha az veriye ihtiyacımız olur. Bence o kadar çok veri merkezine ihtiyacımız yok; bunlar inşa ediliyor ve beraberlerinde tüm sorunları da getiriyorlar.

Bence dinamiklerini ve nasıl kontrol edileceğini anlarsak, daha iyi tasarımlar yapmak ve bunları daha küçük olacak şekilde tasarlamak o kadar da zor olmaz. Bir şeyin zekice davranmasını sağlayan ilkeleri gerçekten özetleyebilirsek, bunu başarabiliriz. Hedefim eninde sonunda bunu yapmak.

Bunun dışında, eğitimle ve genel olarak halkı eğitmekle çok ilgileniyorum. Güney Amerika’da gönüllülük yapıyorum, bu da profesyonel hayatımın büyük bir parçası. Çoğunlukla STEM alanlarıyla ilgilenen lise öğrencilerine ve lisans öğrencilerine ders veriyorum. Ayrıca yapay zeka ve yapay zekanın riskleri üzerine dersler de veriyorum.

Alanınızdaki kariyerinin başlarındaki araştırmacılara herhangi bir tavsiyeniz var mı?

Bence benim için önemli olan şeylerden biri kendinize ve içgüdülerinize güvenmekti. Çoğu zaman bana, daha sonra benim için önemli olduğu ortaya çıkan şeyleri yapmamam söylendi. Benim için doğru olduğunu bildiğim kararları verdiğime memnunum.
Doktora programımın başlarında, dağıtılmış sistemler için bu algoritmaları geliştirirken onları gerçekten uygulamakla çok ilgileniyordum. Bu yüzden bunu GPU’da yazmam gerektiğine karar verdim. O zamanlar GPU’lar üzerinde çekirdek yazmak, günümüzdeki gibi yapay zeka ile yazılabilecek bir şey değildi – GPU kodlaması hakkında gerçekten çok şey öğrenmem gerekti. Ve birçok kişi, “Neden bunu yapıyorsun? Yapma bunu,” diyordu.

Şimdi bunun benim için çok faydalı olduğu ortaya çıktı, çünkü sürekli olarak GPU’ları düşünüyoruz. Bu 2020’de doğru değildi, ya da en azından şimdiki kadar yaygın değildi, özellikle bir kontrol teorisyeni için kesinlikle değil; ama meğer bu bana yapay zekaya geçiş yaparken büyük bir avantaj sağlamış.

Bir başka örnek de yapay zekaya geçiş yaptığım zamandan geliyor. Dili kontrol etmekle gerçekten ilgileniyordum. Ve birçok kişi bana, “Neden bunu yapıyorsun? Yapma bunu,” diyordu. Hatta danışmanım bile bunu yapmamamı ve doktora boyunca yaptığım bu dağıtılmış optimizasyon çalışmalarına devam etmemi söylüyordu. Meğer kontrol üzerine çalışmak benim için doğru hamleymiş, çünkü şu anki yerimden çok memnunum.

Bu yüzden bence sizin için doğru olan hamlenin ne olduğuna inanmak gerçekten önemli. Diğer insanları dinlemek de önemli, ama sadece size uyanı alın. Gençliğime söyleyeceğim şey bu olurdu.

Controllable AI and the power of local knowledge: an interview with Carmen Amo Alonso - ΑΙhub
Controllable AI and the power of local knowledge: an interview with Carmen Amo Alonso - ΑΙhub

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir