Müfredat 156 dersinden 90. · Özel Yapay Zeka
Özel Yapay Zeka

Embeddings de sızıyor

Neden önemli Birçok yapay zeka özelliği metnini embedding adı verilen sayı listelerine dönüştürür ve sonra bunları arama için bir veri tabanında saklar. "Bunlar sadece sayılar, kişisel veri değil" diye düşünmek kolaydır. Bunlar sadece sayı değildir: ne yazıldığını ve belirli bir kişinin kaydının veride olup olmadığını ortaya çıkarabilirler.

anlamın parmak izi

Kitapları başlıklarına göre dosyalamak yerine her birine devasa bir harita üzerinde bir konum veren bir kütüphaneci hayal et: yemek kitapları bir köşede, gezi rehberleri başka bir köşede, İtalyan mutfağı hakkındaki kitaplar ise her ikisine yakın. Haritada birbirine yakın iki kitap benzer şeyler hakkındadır. Bir embedding bir metin parçası için o konumdur.

Embedding: bir yapay zeka modelinin bir metinden ürettiği, benzer anlamlara sahip metinlerin benzer listeler aldığı bir sayı listesidir (genellikle yüzlerce sayı). Anlam için bir harita konumu gibidir.

Vektör veritabanı: gömmeleri saklayan ve yenisine en yakın olanları hızlıca bulan bir veritabanıdır. "anlamına göre arama" özelliğini çalıştırır ve yapay zeka asistanlarının belgelerine bakmasını sağlar.

her metinde sadece üç sayı içeren küçük, uydurma bir örnek (gerçek olanlarda yüzlerce vardır):

notes = {
    "my knee hurts after running":   [0.91, 0.10, 0.02],
    "booked physio for my knee":     [0.88, 0.15, 0.05],
    "new recipe for lentil soup":    [0.03, 0.12, 0.95],
}
# The two knee notes sit close together; the soup is far away.

Sızıntı 1: sayılar tekrar kelimelere dönüştürülebilir

Embeddingler anlamı yakalamak için tasarlandığından, onlara sahip olan herkes çok şey öğrenebilir. Araştırmacılar, doğru araçlar ve aynı modele erişim ile kısa metinlerin orijinal ifadelerinin büyük bir kısmının embeddinglerinden yeniden oluşturulabileceğini gösterdi. Bu bile olmadan, birisi senin sakladığın embeddingleri tahminlerin ("diz yaralanması hakkında bir not var mı?") embeddingleriyle karşılaştırabilir ve hangilerinin yakın olduğunu görebilir.

Sızıntı 2: üyelik çıkarımı

Bazen sır what bir kaydın ne dediği değil, var olup olmadığıdır. Eğer bir kliniğin AI araması sadece hastaların notlarından oluşturulduysa, "bu kişinin notu orada" bilgisini öğrenmek zaten onların bir hasta olduğunu açıklar.

Üyelik çıkarımı: Bir sistemin belirli bir kayda nasıl tepki verdiğini izleyerek, o kaydın bir veri kümesinin parçası olup olmadığını belirlemek.

Fikir basitçe şu şekilde. Bir arama aracının 0 ile 1 arasında bir "benzerlik puanı" döndürdüğünü varsayalım. Elinde bir notun kopyası olan (örneğin sızdırılmış bir e-posta) bir saldırgan, aracın bu notu bulmasını ister:

  • Eğer is veri tabanında varsa, en iyi eşleşme puanı yaklaşık 1.00 olur, çünkü kendisiyle eşleşiyor.
  • Eğer not not orada değilse, en iyi eşleşme sadece benzer, örneğin 0.80.

Bu boşluk "bu kişi burada mı?" sorusunu yanıtlıyor. Aynı desen eğitilmiş modellerde de görülür: bir model, yeni örneklere göre eğitildiği örneklerde daha güvenli olma eğilimindedir ve bir saldırgan bu farkı ölçebilir.

Savunmalar

  • Embeddingleri kişisel veri olarak gör. Onları geldikleri metin gibi koru: erişim kontrolü, dururken şifreleme, metin silindiğinde silme.
  • Gömmeden önce sansürle.Geçen dersteki sansürleyici burada da çalışıyor: önce isimleri ve iletişim bilgilerini kaldır.
  • Ham skorları gösterme. Sonuçları veya "iyi eşleşme" gibi yuvarlanmış bantları göster, böylece kimse neredeyse mükemmel öz-eşleşmeyi fark edemesin.
  • Cihazdaki indeksi tuteğer sadece bir kişinin kendi notları içinse. Başka hiç kimse onu sorgulayamaz.
  • Dikkatli gürültü ekle birçok kişinin verisi üzerinde eğitim yaparken. Buna differential privacy denir; kursun derin yarısı bunu düzgünce kapsıyor.

Yaygın bir yanılgı

"Sadece vektörleri saklıyoruz, metinleri değil, bu yüzden kişisel veri tutulmuyor." Vektörler anlamı korumak için oluşturuldu. Eğer anlam kişiselse, vektörler de kişiseldir.

Özet

  • Bir embedding, bir metnin anlamını yakalayan ve arama için bir vektör veritabanında saklanan sayı listesidir.
  • Embeddings metnin içeriğini sızdırabilir ve tahminlerle karşılaştırılabilir.
  • Üye çıkarımı "bu kayıt veride mi?" diye sorar, genellikle alışılmadık derecede mükemmel eşleşmeleri veya güvenli cevapları fark ederek bunu yapar.
  • Önce sansürleyerek savunma yap, orijinal metin gibi embeddingleri koru, ham skorları gizle ve kişisel indeksleri cihazda tut.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.