AI agent nedir? Chatbot'tan farkı ve nasıl çalışır

Chatbot, iş akışı ve agent arasındaki fark

• Chatbot: soruyu alır, metin cevap üretir. Dış dünyada bir şey değiştirmez.
• İş akışı (workflow): adımları sen önceden yazarsın. Model belirli adımlarda metin üretir ama sıra sabittir.
• Agent: sıradaki adıma model karar verir. Hangi aracı çağıracağını, ne zaman duracağını o seçer.

Sınır keskin değildir. Birçok kullanışlı sistem bu üçünün arasında bir yerde durur.

Bir agent'ın parçaları

• Model: karar veren ve metin üreten dil modeli.
• Araçlar: modelin çağırabildiği işlevler, örneğin web araması, veritabanı sorgusu, e-posta taslağı, dosya okuma.
• Döngü: araç sonucunu modele geri verip yeni karar almayı sağlayan kod.
• Bağlam: modelin o an gördüğü talimat, geçmiş ve araç çıktıları. Uzun işlerde hafıza ya da özetleme gerekir.
• Sınırlar: adım limiti, izinler, zaman aşımı ve insan onayı gereken noktalar.

Döngü nasıl işler

1. Kullanıcı bir hedef verir.
2. Model hedefe ve elindeki araçlara bakıp ya cevap verir ya bir araç çağırmak ister.
3. Senin kodun aracı çalıştırır ve sonucu modele geri verir.
4. Model sonucu okur, işin bitip bitmediğine karar verir ve devam eder ya da son cevabı yazar.

Ne zaman agent, ne zaman basit akış

Adımlar önceden belliyse sabit bir iş akışı daha ucuz, daha hızlı ve daha öngörülebilirdir. Agent, adımların girdiye göre değiştiği açık uçlu işlerde anlamlıdır: araştırma, çok adımlı veri toplama, kod değişikliği gibi. İşe en basit çözümle başla ve ancak gerektiğinde agent'a geç.

Sınırlar

• Modeller hata yapar, bu yüzden geri alınamaz işlemleri insan onayına bağla.
• Her adım ek gecikme ve maliyet demektir.
• Davranışı tahmin etmek zordur, bu yüzden her adımı kaydet ve gerçek görevlerle test et.