~/projects/ai-interpretability-journey/

Yapay Zekâ Yorumlanabilirlik Yolculuğu

2 Tem 2024 #interpretability#llm#transformerlens

Yapay zekâ yorumlanabilirliğini öğrenirken tuttuğum dijital defter: modelleri daha şeffaf yapmaya dair notlar, deneyler ve çıkarımlar.

Amaç

Bu depo, yapay zekâ yorumlanabilirliğini öğrenirken tuttuğum araştırma defteridir. Modelin son çıktısının ötesine geçip Transformer içindeki temsillerin ve devrelerin davranışla ilişkisini deneylerle incelerim. Notları ve uygulamalı notebook’ları bir araya getirir.

İçerik

ARENA ve Transformer Circuits çalışmalarından beslenen notebook’larda Find-Min ve Find-Median gibi görevler, aktivasyonlar ve bileşen analizleri bulunur. TransformerLens ile ara temsilleri inceleyip aktivasyonlara müdahale ederim; görselleştirmeler hangi bileşenlerin cevaba katkı verdiğini somutlaştırır.

Kapsam

Bu, tamamlanmış tek bir araştırma sonucu değil; devam eden öğrenme notları ve deneyler koleksiyonudur. Bulgular her notebook’un görevi ve varsayımları içinde okunmalı, bütün modellere genellenmemelidir.

← cd ..