Bilim İnsanları Güvenlik Kurallarını Yeniden Belirliyor: Yapay Zeka Tarafından Tasarlanan Proteinler Silah Haline Getirilebilir Mi?
“Sahadaki araştırmacılar, bir düğmeye basarak protein yapılarını ortaya çıkarabilen yapay zeka araçlarının güvenli ve etik bir şekilde kullanılması gerektiğini söylüyor.”
Yapay zeka aracı AlphaFold, belirli işlevleri yerine getirecek proteinler tasarlayabiliyor. Kaynak: Google DeepMind/EMBL-EBI (CC-BY-4.0)
Yapay zeka (AI) tarafından tasarlanan proteinler biyolojik silah olarak kullanılabilir mi? Bu olasılığın yanı sıra külfetli hükümet düzenlemeleri ihtimalinin de önüne geçmek umuduyla araştırmacılar bugün, protein tasarımının güvenli ve etik şekilde kullanılması çağrısında bulunan bir girişim başlattılar.
Gönüllü girişimin bir parçası olan Seattle’daki Washington Üniversitesi’nden hesaplamalı biyofizikçi David Baker, “Protein tasarımının (AI) potansiyel faydaları, bu noktada tehlikeleri çok aşıyor” diyor. Yapay zekayı biyolojik tasarıma uygulayan düzinelerce başka bilim insanı da girişimin taahhütler listesini imzaladı.
Washington DC’deki Georgetown Üniversitesi’nde küresel sağlık politikası uzmanı olan ve Los Angeles, California’daki düşünce kuruluşu Helena için yapay zeka ve biyogüvenlik üzerine 2023 raporuna liderlik eden Mark Dybul. “Bu iyi bir başlangıç. İmzalayacağım,” diyorlar. Ancak aynı zamanda “sadece gönüllü rehberliğe değil, hükümetin eylem ve kurallarına da ihtiyacımız olduğunu” düşünüyor diye ekliyorlar.
Bu girişim yeni toksinler veya yüksek derecede bulaşıcı virüsler dahil olmak üzere biyolojik silahlar geliştirmek üzere ABD Kongresi, düşünce kuruluşları ve diğer kuruluşların AlphaFold gibi protein yapısı tahmin ağlarından ChatGPT’ye güç veren büyük dil modellerine kadar yapay zeka araçlarının bunu kolaylaştırabileceği olasılığını araştıran raporlarının ardından geldi.
Tasarımcı Protein Tehlikeleri
Baker ve meslektaşlarının da aralarında bulunduğu araştırmacılar, onlarca yıldır yeni proteinler tasarlamaya ve üretmeye çalışıyorlar. Ancak yapay zekadaki ilerlemeler sayesinde son yıllarda bunu yapma kapasitelerinde patlama yaşandı. Belirli bir moleküle bağlanan bir protein tasarlamak gibi bir zamanlar yıllar süren veya imkansız olan çalışmalar artık dakikalar içinde gerçekleştirilebiliyor. Bilim adamlarının bunu mümkün kılmak için geliştirdiği yapay zeka araçlarının çoğu ücretsiz olarak mevcut ve bu süreci daha da kolay hale getiriyor.
Tasarımcı proteinlerin kötü niyetli kullanım potansiyelini değerlendirmek için Washington Üniversitesi Baker’s Protein Tasarım Enstitüsü Ekim 2023’te bir yapay zeka güvenlik zirvesine ev sahipliği yaptı. “Soru şuydu: Protein tasarımı herhangi bir şekilde nasıl kontrol edilmemi ve nasıl düzenlenmeli? varsa tehlikeler nelerdir?”
Baker ve ABD, Avrupa ve Asya’daki diğer düzinelerce bilim insanının bugün başlattığı girişim, biyotasarım camiasını kendi denetimini üstlenmeye çağırıyor. Bu girişim yapay zeka araçlarının yeteneklerinin düzenli olarak gözden geçirilmesini ve araştırma uygulamalarının izlenmesini temel alıyor. Baker, yazılımın geniş çapta kullanıma sunulmasından önce yazılımı gözden geçirecek ve gerekiyorsa ‘sınırlayıcı önlemler’ önerecek kendi alanında uzman bir komite kurulmasını istiyor.
Girişim aynı zamanda yapay zeka tarafından tasarlanan proteinlerin gerçek moleküllere dönüştürülmesinde önemli bir adım olan DNA sentezinin daha iyi taranmasının da önemli olduğunu savunuyor. Şu anda, bu hizmeti sağlayan birçok şirket zaten toksinler veya patojenler gibi zararlı molekülleri tanımlamak için kurulumuş bir endüstri grubu olan Uluslararası Gen Sentezi Konsorsiyumu’na (IGSC) kayıtlıdır.
Güney San Francisco, California’daki bir DNA sentezi şirketi olan Twist Bioscience’ın biyogüvenlik başkanı ve araştırma grubunun başkanı James Diggans, “Yapay zeka tarafından oluşturulan tehditlere karşı savunmanın en iyi yolu, bu tehditleri tespit edebilen yapay zeka modellerine sahip olmaktır” diyor.
Risk Değerlendirmesi
Hükümetler aynı zamanda yapay zekanın oluşturduğu biyogüvenlik riskleriyle de boğuşuyor. Ekim 2023’te ABD Başkanı Joe Biden, bu tür risklerin değerlendirilmesi ve federal olarak finanse edilen araştırmalar için DNA sentezi taramasının zorunlu kılınması olasılığının artırılması çağrısında bulunan bir idari emir imzaladı.
Baker, hükümet düzenlemelerinin alanın geleceğinde yer almamasını umuyor; bunun, yapay zeka tarafından tasarlanan proteinlerin üretebileceği ilaçların, aşıların ve malzemelerin gelişimini sınırlayabileceğini söylüyor. Diggans, gelişimin hızlı temposu nedeniyle protein tasarım araçlarının nasıl düzenlenebileceğinin belirsiz olduğunu ekliyor ve “Bir hafta uygun olup ertesi hafta da uygun olabilecek bir düzenlemeyi hayal etmek zor.” diyor.
Ancak Kaliforniya’daki Stanford Üniversitesi’nden mikrobiyolog David Relman, bilim adamlarının önderlik ettiği çabaların yapay zekanın güvenli kullanımını sağlamak için yeterli olmadığını söylüyor. “Doğa bilimciler tek başına daha geniş bir halkın çıkarlarını temsil edemez.” Diyerek daha fazla farklı disiplinlerden araçtırmacılar için birlik olma çağrısı yapıyor.
Çeviri Kaynağı: https://www.nature.com/articles/d41586-024-00699-0