Ana içeriğe geç
Software Dictionary

Yol haritası · Orta seviye

LLM'lerle ürün geliştirmek

Prompt'lar, retrieval, araçlar ve değerlendirme: bir yapay zekâ özelliğini yayına almanın gerektirdikleri.

Bir ürüne dil modeli ekleyen geliştiriciler için pratik bir rota: modelle konuşmak, ona kendi verinizi vermek, araç çağırmasına izin vermek ve sonucun gerçekten iyi olup olmadığını ölçmek.

24 sayfa4 bölümyaklaşık 41 dk okuma

  • Yapay Zekâ ve Makine Öğrenmesi
  • Güvenlik

Henüz başlanmadı0/24 okundu

LLM ile başla

İlerleme, yalnızca bu tarayıcıda tutulan okuma geçmişinizden gelir.

1. bölümBir modelle konuşmak

  1. 1LLMYapay Zekâ ve Makine Öğrenmesi, s. 28LLM, çok büyük metin yığınlarıyla eğitilmiş ve bir sonraki en olası metin parçasını tekrar tekrar tahmin ederek dil üreten bir makine öğrenmesi modelidir.
  2. 2TokenYapay Zekâ ve Makine Öğrenmesi, s. 43Token, bir LLM'nin okuduğu ve ürettiği temel metin birimidir; genellikle bir sözcük, sözcük parçası ya da noktalama işaretidir ve sayısal bir kimliğe eşlenir.
  3. 3PromptYapay Zekâ ve Makine Öğrenmesi, s. 35Prompt, bir LLM gibi bir yapay zekâ modeline hangi görevi yapmasını ve nasıl bir yanıt istediğinizi söylemek için verdiğiniz girdi metni ya da yönergelerdir.
  4. 4System PromptYapay Zekâ ve Makine Öğrenmesi, s. 41System prompt, uygulamanın sohbet başlamadan önce dil modeline verdiği talimatlardır; modelin rolünü, kurallarını, üslubunu ve kullanacağı bilgileri belirler.
  5. 5Prompt MühendisliğiYapay Zekâ ve Makine Öğrenmesi, s. 36Prompt mühendisliği, yapay zekâ modelinin doğru, tutarlı ve kullanışlı çıktı üretmesi için verilen yönergeleri tasarlama, test etme ve iyileştirme pratiğidir.
  6. 6Bağlam PenceresiYapay Zekâ ve Makine Öğrenmesi, s. 5Bağlam penceresi, bir LLM'nin prompt, konuşma geçmişi ve kendi yanıtı dahil aynı anda dikkate alabildiği, token cinsinden en fazla metin miktarıdır.
  7. 7TemperatureYapay Zekâ ve Makine Öğrenmesi, s. 42Temperature, bir LLM'nin çıktısının ne kadar rastgele olacağını belirleyen ayardır: düşükken odaklı ve öngörülebilir, yüksekken daha çeşitli ve yaratıcıdır.
  8. 8HalüsinasyonYapay Zekâ ve Makine Öğrenmesi, s. 25Halüsinasyon, bir LLM gibi yapay zekâ modelinin kendinden emin bir şekilde kulağa makul gelen ama yanlış, uydurma ya da kaynaksız bilgi üretmesidir.

2. bölümOna kendi verinizi vermek

  1. 9EmbeddingYapay Zekâ ve Makine Öğrenmesi, s. 18Embedding, metin, görüntü ya da başka verilerin anlamını vektör denen bir sayı listesiyle temsil eden ve benzer öğeleri birbirine yakın konumlandıran yapıdır.
  2. 10Kosinüs BenzerliğiYapay Zekâ ve Makine Öğrenmesi, s. 27Kosinüs benzerliği, iki vektörün benzerliğini aralarındaki açıyla, -1 ile 1 arasında ölçer; semantik aramada embedding'leri karşılaştırmanın olağan yoludur.
  3. 11ChunkingYapay Zekâ ve Makine Öğrenmesi, s. 9Chunking, uzun belgeleri embedding'e çevrilip saklanmadan önce küçük parçalara böler; böylece bir RAG sistemi yalnızca ilgili kısımları bulup modele iletebilir.
  4. 12Vektör VeritabanıYapay Zekâ ve Makine Öğrenmesi, s. 47Vektör veritabanı, embedding'leri saklayıp bir sorguya en benzer vektörleri hızla bulmak için tasarlanmış, anlamsal arama ve RAG'in dayandığı veritabanıdır.
  5. 13Anlamsal AramaYapay Zekâ ve Makine Öğrenmesi, s. 2Anlamsal arama, sonuçları birebir anahtar kelimelere değil anlama göre, genellikle sorgu ve belge embedding'lerini karşılaştırarak bulan arama tekniğidir.
  6. 14RAGYapay Zekâ ve Makine Öğrenmesi, s. 38RAG, bir LLM'in soru anında getirilen ilgili belgelere dayanarak yanıt vermesini sağlayan ve yanıtları güncel, özel verilere dayandıran bir tekniktir.
  7. 15Context EngineeringYapay Zekâ ve Makine Öğrenmesi, s. 10Context engineering, işi güvenilir biçimde yapabilsin diye LLM'in her çağrıda ne gördüğünü (talimatlar, belgeler, araç sonuçları, geçmiş) seçme pratiğidir.

3. bölümHarekete geçmesine izin vermek

  1. 16Tool CallingYapay Zekâ ve Makine Öğrenmesi, s. 44Tool calling, modelin uygulamadan yapılandırılmış argümanlarla belirli bir fonksiyonu çalıştırmasını istediği ve sonucu yanıtında kullandığı LLM özelliğidir.
  2. 17Model Context ProtocolYapay Zekâ ve Makine Öğrenmesi, s. 32Model Context Protocol, yapay zekâ uygulamalarının dış araçlara, veri kaynaklarına ve prompt'lara ortak bir arayüzle bağlanmasını tanımlayan açık standarttır.
  3. 18Yapay Zekâ AjanıYapay Zekâ ve Makine Öğrenmesi, s. 51Yapay zekâ ajanı, hangi araçları çağıracağına karar verip sonuçları gözlemleyerek çok adımlı görevleri planlayan ve yürüten, LLM kullanan bir sistemdir.
  4. 19Prompt InjectionGüvenlik, s. 28Prompt injection, saldırganın metni talimat sayılınca dil modelinin kurallarını yok saydığı, veri sızdırdığı ya da araçları kötüye kullandığı saldırıdır.

4. bölümOnu iyi hâle getirmek

  1. 20EvalsYapay Zekâ ve Makine Öğrenmesi, s. 19Evals, yapay zekâ testleridir: beklenen sonucu ya da puanlama kuralı olan girdilerle her değişiklikten sonra bir modelin ya da prompt'un başarısını ölçer.
  2. 21Fine-tuningYapay Zekâ ve Makine Öğrenmesi, s. 21Fine-tuning, önceden eğitilmiş bir makine öğrenmesi modelini tek bir göreve uyarlamak için daha küçük ve özel bir veri kümesiyle ek olarak eğitme sürecidir.
  3. 22LoRAYapay Zekâ ve Makine Öğrenmesi, s. 29LoRA, büyük modellere ucuzca ince ayar yapma yöntemidir: ağırlıklar dondurulur, yalnızca eklenen küçük matrisler eğitilir; yeni beceri birkaç megabayta sığar.
  4. 23QuantizationYapay Zekâ ve Makine Öğrenmesi, s. 37Quantization, parametreleri 16 yerine 8 ya da 4 gibi daha az bitle saklayarak bir yapay zekâ modelini küçülten, inference'ı hızlandırıp ucuzlatan tekniktir.
  5. 24InferenceYapay Zekâ ve Makine Öğrenmesi, s. 26Inference, eğitilmiş bir makine öğrenmesi modelinin, öğrendiklerini değiştirmeden yeni verilerden tahmin ya da çıktı üretmek için kullanıldığı aşamadır.

Yol boyunca karşılaştırın

Bu yol haritasında kolayca karıştırılan çiftler, yan yana.

Daha fazla

Ayarlar

EnglishTürkçe