Yapay Zekâ Yorumlanabilirlik Yolculuğu
Yapay zekâ yorumlanabilirliğini öğrenirken tuttuğum dijital defter: modelleri daha şeffaf yapmaya dair notlar, deneyler ve çıkarımlar.
Amaç
Bu depo, yapay zekâ yorumlanabilirliğini öğrenirken tuttuğum araştırma defteridir. Modelin son çıktısının ötesine geçip Transformer içindeki temsillerin ve devrelerin davranışla ilişkisini deneylerle incelerim. Notları ve uygulamalı notebook’ları bir araya getirir.
İçerik
ARENA ve Transformer Circuits çalışmalarından beslenen notebook’larda Find-Min ve Find-Median gibi görevler, aktivasyonlar ve bileşen analizleri bulunur. TransformerLens ile ara temsilleri inceleyip aktivasyonlara müdahale ederim; görselleştirmeler hangi bileşenlerin cevaba katkı verdiğini somutlaştırır.
Kapsam
Bu, tamamlanmış tek bir araştırma sonucu değil; devam eden öğrenme notları ve deneyler koleksiyonudur. Bulgular her notebook’un görevi ve varsayımları içinde okunmalı, bütün modellere genellenmemelidir.