Chain-of-Thought
Düşünce Zinciri Yönlendirmesi
- İngilizcesi
- Chain-of-Thought Prompting
- Okunuşu
- çeyn ov tot prompting
Kısaca
Chain-of-thought prompting, bir LLM'den nihai yanıttan önce ara adımlarla akıl yürütmesini isteyen ve karmaşık görevlerde doğruluğu artıran bir tekniktir.
Chain-of-thought prompting nedir?
Chain-of-thought prompting, bir dil modelinden doğrudan yanıta atlamak yerine akıl yürütmesini adım adım göstermesini istemek demektir. Fikir, prompt'ta akıl yürütmesi ayrıntılı işlenmiş örnekler bulunduğunda modellerin matematik problemlerini ve mantık bulmacalarını çok daha doğru çözdüğünü gösteren 2022 tarihli bir araştırma makalesiyle yaygınlaştı. 'Bunu adım adım düşün' gibi basit bir yönerge bile benzer bir etki yaratabilir.
Bunun işe yarama nedeni, bir LLM'nin metni token token üretmesi ve yazdığı her token'ın bir sonrakinin bağlamının parçası olmasıdır. Ara adımları yazmak modele daha fazla hesaplama ve kısmi sonuçları tutacağı bir yer verir, tıpkı müsvedde kâğıdı gibi; böylece sonraki adımlar öncekilerin üzerine inşa edilebilir. Çoğu zaman akıl yürütme modelleri (reasoning models) olarak adlandırılan birçok yeni model, yanıt vermeden önce bu tür akıl yürütmeyi kendiliğinden üretmek üzere eğitilir; bu zor problemlerde sonuçları iyileştirir ama daha fazla token kullanır ve gecikme ekler.
Günlük benzetme, öğrencilerden matematik sınavında işlemlerini göstermelerini isteyen bir öğretmendir: her adımı yazmak hataları daha az olası ve fark edilmesi daha kolay hale getirir. Uygulamalarda chain-of-thought çok adımlı matematik, planlama, hata ayıklama ve birkaç bilgiyi birleştiren sorular için kullanılır; geliştiriciler genellikle programın yalnızca yanıtı çıkarabilmesi için akıl yürütmeyi ve nihai yanıtı ayrı, net biçimde işaretlenmiş bölümler halinde ister.
Chain-of-thought çoğu zaman few-shot prompting ile karıştırılır. Few-shot prompting modele örnek girdiler ve çıktılar gösterir; chain-of-thought ise akıl yürütme adımlarını ortaya çıkarmakla ilgilidir. İkisi, akıl yürütmeyi içeren örnekler vererek sıklıkla birleştirilir. Ayrıca yazılı bir düşünce zincirinin, modelin yanıtına nasıl ulaştığının garantili ve sadık bir açıklaması olmadığını, basit aramalarda veya sınıflandırmada ise doğruluğu artırmadan çoğunlukla maliyet eklediğini bilmekte fayda var.
Önemli noktalar
- Chain-of-thought prompting, modelden yanıt vermeden önce adım adım akıl yürütmesini ister.
- Ara adımları yazmak modele hesaplama için daha fazla alan verir ve mantığı atlama olasılığını azaltır.
- En çok matematik, mantık, planlama ve çok adımlı sorularda yardımcı olur.
- Akıl yürütme modelleri bu tür akıl yürütmeyi, daha fazla token pahasına otomatik üretir.
- Yazılı akıl yürütmenin modelin gerçekte nasıl karar verdiğini yansıttığı garanti edilmez.
Örnek
// Ask for reasoning first, then a clearly marked final answer
const prompt = [
"A store sells pens in packs of 12 for $3. How much do 60 pens cost?",
"Think through the problem step by step.",
"Then write the result on its own line as: ANSWER: <number>",
].join("\n");
// callModel is a placeholder for a real model client
const reply = await callModel(prompt);
// e.g. "60 / 12 = 5 packs. 5 * $3 = $15.\nANSWER: 15"
const answer = reply.match(/ANSWER:\s*(\d+)/)?.[1];
console.log(answer); // "15"Sık sorulan sorular
Chain-of-thought prompting her zaman sonuçları iyileştirir mi?
Hayır. En çok matematik, mantık ve planlama gibi birkaç akıl yürütme adımı gerektiren problemlerde yardımcı olur. Basit aramalar, kısa sınıflandırmalar veya biçimlendirme görevlerinde çoğunlukla yalnızca token, maliyet ve gecikme ekler.
Akıl yürütme modeli (reasoning model) nedir?
Akıl yürütme modeli, nihai yanıtı vermeden önce çoğunlukla gizli ya da özetlenmiş kendi düşünce zincirini üretmek üzere eğitilmiş bir LLM'dir. Genellikle karmaşık problemlerde daha iyi performans gösterir ama yanıt başına daha uzun sürer ve daha fazla token kullanır.
Düşünce zinciri, modelin yanıtının gerçek bir açıklaması mıdır?
Zorunlu olarak değil. Adımlar üretilmiş metindir ve modelin yanıta gerçekte nasıl ulaştığıyla uyuşmasa bile ikna edici görünebilir; bu yüzden akıl yürütme kanıt olarak güvenilmek yerine kontrol edilmelidir.
İlgili sayfalar
- Prompt MühendisliğiYapay Zekâ ve Makine Öğrenmesi, s. 36Prompt mühendisliği, yapay zekâ modelinin doğru, tutarlı ve kullanışlı çıktı üretmesi için verilen yönergeleri tasarlama, test etme ve iyileştirme pratiğidir.
- Few-Shot LearningYapay Zekâ ve Makine Öğrenmesi, s. 20Few-shot learning, bir yapay zekâ modelinin yalnızca birkaç örnekle, çoğunlukla prompt'a birkaç örnek girdi ve çıktı koyarak bir görevi yapmasını sağlamaktır.
- PromptYapay Zekâ ve Makine Öğrenmesi, s. 35Prompt, bir LLM gibi bir yapay zekâ modeline hangi görevi yapmasını ve nasıl bir yanıt istediğinizi söylemek için verdiğiniz girdi metni ya da yönergelerdir.
- LLMYapay Zekâ ve Makine Öğrenmesi, s. 28LLM, çok büyük metin yığınlarıyla eğitilmiş ve bir sonraki en olası metin parçasını tekrar tekrar tahmin ederek dil üreten bir makine öğrenmesi modelidir.
- TokenYapay Zekâ ve Makine Öğrenmesi, s. 43Token, bir LLM'nin okuduğu ve ürettiği temel metin birimidir; genellikle bir sözcük, sözcük parçası ya da noktalama işaretidir ve sayısal bir kimliğe eşlenir.
- HalüsinasyonYapay Zekâ ve Makine Öğrenmesi, s. 25Halüsinasyon, bir LLM gibi yapay zekâ modelinin kendinden emin bir şekilde kulağa makul gelen ama yanlış, uydurma ya da kaynaksız bilgi üretmesidir.
- Reasoning ModelYapay Zekâ ve Makine Öğrenmesi, s. 39Reasoning model, yanıt vermeden önce problemi adım adım çözmek üzere eğitilmiş, zor işlerde daha iyi sonuç için ek hesaplama harcayan bir dil modelidir.
Bu sayfada bir hata ya da eksik mi gördünüz?Düzeltme önerin