not · büyüyor

Bir tool tasarlamak

Model bir isim, bir açıklama ve bir schema görür. Kalite orada yaşar.

Model kodunu asla görmüyor. Gördüğü şey bir isim, bir açıklama ve bir schema — kalite de tam orada yaşıyor.

Az ve genişbeş iyi tool kırk dar tool'u yener
Dürüst açıklamalarsadece ne zaman kullanılacağını değil, ne zaman KULLANILMAYACAĞINI da söyle
Tipli girdikatı bir schema bir retry'dan ucuzdur
Okunabilir hatalarmodelin üzerine aksiyon alabileceği metin döndür
Sayfalaasla sınırsız bir blob geri verme

Bozulma biçimleri

  • Tool çorbası. Kısa, kuru isimli kırk tool. Model yanlış seçiyor ve üstüne ne kadar prompt engineering yaparsan yap kötü bir menüyü düzeltmiyor.
  • Yutulan hatalar. Hata durumunda boş sonuç döndüren bir tool, modele cevabın "hiçbir şey" olduğunu öğretiyor.
  • Sayfalanmamış dönüşler. Koca bir JSON dokümanını olduğu gibi boşaltan tek bir tool, patlayan context window'un en yaygın sebebi.

Bu tool'ları tüketen döngü başlı başına bir konu — AI bahçesindeki bir agent bir döngüdür notuna bak.

#tools #design

Bu notu beyaz tahtada gör →