Üretken Yapay Zeka 2024'te Kodlamada Nasıl Bir Rol Oynamalı?

2024’te üretken yapay zeka hakkındaki konuşmaların yavaşladığına dair düşünceleriniz varsa, maalesef kötü haberlerim var. Yapay zeka konusunda rotayı değiştiren kimse yok gibi görünüyor. Bu teknoloji burada kalacak ve bizim onunla başa çıkmamız gerekiyor. Bu gerçeği günümüz yazılım geliştiricilerinin çoğu zaten biliyor.

Ancak, yapay zeka geliştiricilerle olan işbirliği her zaman sorunsuz olmuyor.

2024’te karşılaşabilecekleri en büyük zorluklardan biri, kötü üretken yapay zeka alışkanlıklarına yönelerek kendilerini daha kötü programcılara dönüştürmekten nasıl kaçınacaklarıdır. Bu konuda atılacak ilk adım, geniş amaçlı büyük dil modellerinden (LLM) “büyük” olanı çıkarmaktır. Çünkü ciddi ve hassas ticari işletme kodlaması için bu tür geniş LLM’ler biraz fazla büyüyebilir.

LLM'ler Kodlama İçin Çok Büyük Hale Geldiğinde

Washington Üniversitesi’nden araştırmacılar, yıllar önce LLM’lerin büyüklüğünü sorgulamışlardı. Ancak, GPT-4 gibi LLM programlarının programcıları daha verimli hale getirme vaadi, pek çok kişinin ilgisini çekebilir. Daha hızlı bir pazara çıkış süresi kimin için cazip olabilir ki? Geliştiricilerin kendilerini kodlayıcılardan ziyade mimarlara dönüştürme düşüncesi oldukça umut verici. Ayrıca, ChatGPT gibi araçlar, genç kodlayıcılara programlamanın temellerini öğrenmelerinde harika mentorluk yapabilirler.

Ancak tüm bu avantajlara rağmen, günümüzdeki ana akım büyük dil modelleri, dijital süpürgeler gibi web üzerindeki hemen hemen her şeyi düşünmeden emen devasa varlıklardır. Veri kaynakları konusunda tamamen şeffaf değiller ve bu da büyük bir güven sorununa yol açıyor. Bir modelin verilerinin nereden geldiğini bilmemek, telif hakkıyla korunan bir kodla karşılaşma veya kodun başlangıçta kaliteli olup olmadığını anlama riskini artırır.

Örneğin, şirketinizin Wi-Fi özellikli bir kahve makinesini piyasaya sürdüğünü ve altı ay sonra oluşturulan kodun, başka bir kuruluşun telif hakkıyla korunan koduna çok benzediğini (tamamen aynı olmasa da) öğrenmek istemezsiniz. Bu durum, insanlar sıfırdan kod yazdığında doğal olarak ortaya çıkabilir, ancak GenAI gibi kullanıldığında bu risk daha da artar. Yüzde 1 bile şüpheliyse, bu endişe verici bir durumdur. Ürününüzün kablosuz güncelleme özelliği yoksa, geri çağırmanız gerekebilir – ki bu hiç kimse için iyi bir gün değildir.

Bu gerçekle karşı karşıya kaldığımızda, üretken yapay zeka gelişiminden kaynaklanan sorunları işletmelere yükleyemeyiz. Boston Consulting Group’un yakın tarihli bir anketine göre, üst düzey yöneticilerin yaklaşık üçte ikisi GenAI’dan pek memnun değil. Qt ile birlikte çalıştığımız müşterilerle yaptığım görüşmelerde, birçok kişinin ürünlerini kapalı kaynaklı GenAI asistanlarıyla oluşturmanın getirdiği endişeleri dile getirdiğini duyuyorum. Modeller, geliştirme ekiplerine sohbet robotları için özel ve kaliteli yanıtlar sunmak konusunda eksik kalabiliyor.

Bu sorunları çözmek için bazıları hızlı mühendislik yoluna başvurdu, ancak bu tek geçerli seçenek değil. Hızlı mühendislik, sıkıcı ve zaman alıcı bir süreçtir. Ayrıca, özel bir hızlı mühendisin maliyeti, sağladığı faydalardan daha ağır basabilir; geçen yıl bazılarının maaşlarının 300.000 dolara kadar çıktığı bildirildi.

Hayır, daha uygun maliyetli bir çözüm var ve cevap daha özel modellerde yatıyor.

Kodlayıcılar Yapay Zeka Yardımı İçin Daha Küçük Modellere Bakmalı

Yapay zeka destekli kod oluşturmanın başarısının sadece büyük dil modellerine bağlı olmadığını görmekteyiz. Kodlama alanında uzmanlaşmış, daha küçük ve odaklı dil modellerine yönelik ilgi artmaktadır ve bunun nedeni, sadece daha etkili olmalarıdır.

Zaten BigCode, Codegen, CodeAlpaca, Codeium ve StarCoder gibi birçok seçenek mevcut. Özellikle StarCoder, boyutu ne kadar küçük olursa olsun, PaLM, LaMDA ve LLaMA gibi daha büyük modellerden daha iyi performans gösterdiği sonuçların kalitesi ve uygunluğu açısından dikkat çekmiştir. Daha küçük bir modelin özel olarak kodlama için tasarlanmış olması, genelde daha büyük ve yaygın olan modellerden daha iyi performans sergilemesini şaşırtıcı kılar.

Daha fazla satıcının, tıp teknolojisinden finans ve bankacılığa kadar çeşitli endüstrilerde rekabet etmek için bu küçük, odaklı modelleri oluşturarak büyük dil modeli şirketleriyle mücadele etmeye çalıştığı görülüyor. Ancak bu modellerin OpenAI’nin sundukları kadar etkili olup olmayacağı konusu tartışmalı.

Kodlayıcılar açısından bakıldığında, daha küçük boyutlu ve odaklı modellerin kullanılması, güvenliği artırabilir ve hassas verilerin sızmasını önleyebilir. Bu, gereksiz bilgilerle dolu LLM gerçekten gerekli olup olmadığı gibi, kod yazarken faydalı olmayan bilgilerle dolu eğitimlere gerçekten ihtiyaç olup olmadığını düşündüğümüz gibi mantıklı bir düşünce.

Hyper büyük dil modelleri, özellikle OpenAI’nin GPT-4 gibi, teknik danışmanlık sağlamak konusunda mükemmel olabilir. Ancak bu tavsiyeler doğrudan üretim kodunuza entegre edilmez. Müşterilere göndereceğiniz kodu oluşturmak için, önceden ayarlanmış ve ince ayarları yapılmış, özel ve daha küçük modelleri tercih etmek isteyebilirsiniz.

Bu nedenle, 2024’ün geliştiricilerin hangi dil modelini kullanacaklarına dair kararlarını dikkatlice inceleyecekleri bir yıl olacağını söylemek mümkün. Bu durumda, DevOps ekiplerinin, varsayılan olarak en görünür olanlara değil, piyasadaki tüm seçeneklere kapsamlı bir şekilde göz atmaları daha iyi olacaktır. Veri havuzu ne kadar küçükse, kodlama çalışmasıyla ilgili bilgileri saklamak o kadar kolay ve modelin eğitimi de o kadar ekonomik olacaktır. Daha küçük dil modellerinin yükselişi, LLM sağlayıcılarını şeffaflığı artırmaya teşvik edebilir.

Aracı Göreve Uygun Hale Getirin

Hiçbir üretken yapay zeka aracı, örneğin ChatGPT gibi, gerçek programcıların yerini alamaz; büyük miktardaki kodu kusursuz bir çözüm olarak işletme konusunda güvenilirlikleri sınırlıdır.

Bu durum, GenAI’nın DevOps ortamını ilerleyen yıllarda değiştirmeyecek anlamına gelmez, ancak GenAI’nın insan denetimi ihtiyacını ortadan kaldırmadığı bir geleceğe henüz ulaşmadığımız anlamına gelir. Geliştiriciler, her zaman her kod satırına kendileri tarafından yazılmış gibi yaklaşmalı ve meslektaşlarına, “Bu iyi bir kod mu, yoksa kötü bir kod mu?” sorusunu sormaya devam etmelidir.

Ancak, dünya genelindeki artan yazılım taleplerini karşılamak için kaçınılmaz olarak yapay zekayla daha yakın işbirliği yapmamız gerektiğinden, en azından yapay zekanın geliştiriciler için bir yardımcı olarak işlev gördüğünden emin olmalıyız, tersi değil. Ve bazen, en büyük veya en popüler olan değil, mevcut kodlama görevine en uygun olan bir Dil Modeli aramak anlamına gelebilir.