AB'de barındırılan yapay zeka modelleri

AB'de barındırılmak ne anlama gelir?

AB'de barındırılmak, çıkarımın — dil modelinin GPU sunucularda fiilen çalıştırılmasının — fiziksel olarak Avrupa Birliği'nde yer alan veri merkezlerinde gerçekleştiği anlamına gelir. Bu, AB'de merkez ofisi bulunmasından veya ticaret siciline kayıtlı bir Avrupa tüzel kişiliğinden farklıdır. Yasal olarak Amsterdam'da yerleşik olan ancak tüm hesaplama kapasitesini Virginia'da işleten bir şirket, GDPR yükümlülükleri açısından önem taşıyan teknik anlamda AB'de barındırılmış değildir. Bu ayrım neden önemlidir? Çünkü GDPR, veri sorumlularından — ve ilgili kişilerden — işleme sırasında kişisel verilerin fiziksel olarak nerede bulunduğunu bilmelerini talep eder. Kişisel veriler içeren bir istek (isimler, adresler, tıbbi açıklamalar) bir LLM API'sine ulaştığında, bu bir veri işleyiciye kişisel veri aktarımı oluşturur. Bu işlemin fiziksel konumu, hangi aktarım mekanizmalarının geçerli olduğunu belirler. Alt işleyiciler de rol oynar. Bir Avrupa bulut sağlayıcısı, GPU kapasitesini Amerikan bir ana şirketin sahibi olduğu bir veri merkezi şirketinden kiralayabilir. Bu uyumlu olabilir — Standart Sözleşme Maddeleri (SCC) veya eşdeğer aktarım mekanizmaları mevcutsa — ancak bu bilgi, LLM sağlayıcınızın DPA'sında (Veri İşleme Sözleşmesi) açıkça belgelenmiş olmalıdır. Her zaman DPA'yı okuyun, yalnızca pazarlama sayfasını değil.

AB'de barındırılan çıkarımın GDPR etkileri

GDPR, AB'de ikamet edenlerin kişisel verilerinin nasıl işleneceğini düzenler. Kuruluşunuz kişisel veriler içeren verilerle bir LLM API'sini çağırdığında, siz veri sorumlususunuz ve API sağlayıcısı veri işleyicidir. Bu, üç somut yükümlülük yaratır: 1. Veri İşleme Sözleşmesi (Madde 28). Sağlayıcıyla bir DPA imzalamanız gerekir. DPA'da şunları kontrol edin: hangi alt işleyiciler devreye giriyor, hangi ülkedeler ve hangi hukuki mekanizma geçerli (SCC, yeterlilik kararı, bağlayıcı kurumsal kurallar). 2. Aktarım değerlendirmesi (Madde 46 / Schrems II). Sağlayıcı Amerikalıysa — Frankfurt'ta barındırsa bile — ABD FISA 702 mevzuatı, ABD makamlarının belirli koşullarda verilere erişim talep edebileceği anlamına gelir. Avrupa Birliği Adalet Divanı'nın Schrems II kararının (2020) ardından, Standart Sözleşme Maddeleri ve ek Aktarım Etki Değerlendirmesi (TIA) standart mekanizmadır. ABD ana şirketi olmayan yalnızca AB'de barındırılan sağlayıcılarla bu aktarım değerlendirmesi büyük ölçüde ortadan kalkar ve uyum yükünü önemli ölçüde azaltır. 3. Saklama ve silme. LLM sağlayıcısı eğitim, ince ayar veya kalite izleme amacıyla istem günlüklerini saklıyor mu? Öyleyse, ne kadar süreyle ve silme talebi gönderebilir misiniz? AB'de barındırılmak bunu otomatik olarak çözmez; DPA'da sözleşmesel taahhütler gereklidir.

Tokonomix veritabanındaki AB'de barındırılan sağlayıcılar

Aşağıdaki tablo, Tokonomix veritabanında barındırma bölgesi AB bölgesi (eu / nl / de / fr) olarak işaretlenen sağlayıcıları göstermektedir. Ortalama puan, son 7 günlük ortalama kıyaslama puanıdır; — henüz güncel ölçüm bulunmadığı anlamına gelir. Veriler, sağlayıcı belgelerinden ve kıyaslama çalıştırmalarından haftalık olarak güncellenir.

GDPR uyum matrisi: sağlayıcıya göre modeller

Aşağıdaki tablo, Tokonomix veritabanındaki tüm aktif AB'de barındırılan modelleri çıkarım bölgesi, model kaynak ülkesi ve çıktı modalitesiyle listeler. Bu canlı verilerdir; sağlayıcılar veya modeller eklendiğinde veya değiştirildiğinde tablo otomatik olarak güncellenir.

AB Yapay Zeka Yasası — bilinmesi gerekenler

AB Yapay Zeka Yasası (Yönetmelik 2024/1689) aşamalı olarak yürürlüğe girmiştir. LLM API'leri kullanan kuruluşların çoğu için Genel Amaçlı Yapay Zeka (GPAI) kuralları en ilgili olanlardır. Sistemik risk taşıyan sınır modeller — hesaplama eşikleri ve risk değerlendirme süreçleri aracılığıyla değerlendirilen — sağlayıcılar için ek şeffaflık ve denetim yükümlülükleri taşır, sizin için değil. Bir dağıtıcı olarak, doğrudan kamu temaslı yapay zeka kullanımında (ör. sohbet robotları) ve belirli yüksek riskli uygulamalarda (İK seçimi, kredi skoru vb.) şeffaflık yükümlülükleriniz vardır. AB'de barındırılan çıkarım, veri aktarımındaki uyum yükünü azaltır ancak sizi Yapay Zeka Yasası kapsamındaki dağıtıcı yükümlülüklerinden muaf kılmaz. Spesifik kullanım durumunuzun değerlendirmesi için DPO'nuza veya hukuk danışmanınıza başvurun.

Sık sorulan sorular

AB'de barındırılmak otomatik olarak GDPR uyumlu mudur?

Hayır. AB'de barındırılmak gerekli ama yeterli olmayan bir koşuldur. Ayrıca geçerli bir Veri İşleme Sözleşmesine ihtiyaç duyarsınız, alt işleyicileri bilmeniz ve sağlayıcının ABD ana şirketi varsa Aktarım Etki Değerlendirmesi yapmış olmanız gerekir. AB'de barındırılmak sizi Schrems II sorunlarından büyük ölçüde korur ve yabancı makamların erişim talep etme riskini azaltır.

Hangi sağlayıcılar yalnızca AB çıkarımı sunar?

Tokonomix veritabanına göre, OVH AI Endpoints (Gravelines, FR) ve Mistral AI (AB), AB barındırma bölgesine sahip sağlayıcılardır. Mistral AI Fransız bir şirkettir; OVH ise Avrupalı bir bulut sağlayıcısıdır. Not: veritabanındaki liste, yalnızca Tokonomix'in API kıyaslamaları yaptığı sağlayıcıları yansıtır. Veritabanımız dışında daha fazla AB'de barındırılan sağlayıcı mevcuttur.

AB Yapay Zeka Yasası kullanabileceğim modelleri değiştiriyor mu?

Yapay Zeka Yasası, normal iş uygulamaları için belirli modelleri yasaklamaz. Yasaklanan uygulamalardır, modeller değil: halka açık alanlarda gerçek zamanlı biyometrik tanımlama, sosyal puanlama vb. Dağıtıcı olarak yüksek riskli uygulamalar için (İK, finansal puanlama, kritik altyapı) ek belgeler tutmanız gerekir. Sistemik riskli bir GPAI modeli mi kullanıyorsunuz? Sağlayıcı ek yükümlülükler taşır; uyumluluk belgelerini talep edin.

ABD merkezli sağlayıcılar AB bölgelerine sahipse ne olur?

OpenAI veya Google gibi bir sağlayıcı AB bölgesel seçenekleri sunar (ör. Frankfurt/Paris), ancak ABD şirketi olarak FISA 702'ye tabidir. Bu, ABD istihbarat servislerinin verinin fiziksel konumundan bağımsız olarak prensipte erişim talep edebildiği anlamına gelir. AB-ABD Veri Gizliliği Çerçevesi (DPF, 2023), katılımcı şirketler için bir yeterlilik kararı sağlar, ancak bunun kullanım durumunuz için yeterince sağlam olup olmadığı hukuki bir değerlendirmedir. ABD ana şirketi olmayan yalnızca AB'de barındırılan sağlayıcılar bu riski taşımaz.

AB dışı modeller AB altyapısında çalışıyorsa ne olur?

Tokonomix AB'de barındırılan havuzundaki birçok model başlangıçta AB dışı taraflarca (ABD, Çin) geliştirilmiştir. Bu, model eğitimi açısından GDPR ile ilgilidir (verileriniz genellikle burada yer almaz) ancak çıkarım sırasındaki işleyici ilişkisi için değildir. Önemli olan hesaplamanın nerede gerçekleştiğidir. Model AB'deki sunucularda çalışıyorsa, aktarım değerlendirmeleri için AB'de barındırma avantajı geçerlidir — sağlayıcının alt işleyicilerini de doğru şekilde belgelemesi koşuluyla.

Tokonomix, uzlaşı çağrıları için AB barındırımayı nasıl kullanır?

Tokonomix uzlaşı ağ geçidinde routing_intent'i 'eu' olarak ayarlayabilirsiniz. Tokonomix, isteği yalnızca hosting_region'ı AB içinde kalan sağlayıcılara yönlendirir. Bu, tüm katılımcı modellerin AB'de çalışması gereken uygulamalar için önemlidir — ör. sağlık hizmetleri veya finansal hizmetlerde sektöre özgü uyumluluk. AB havuzu küresel havuzdan daha küçüktür; biraz daha az model seçeneği beklenir ancak tam bölgesel aktarım kontrolü sağlanır.

AB'de barındırılmak ile AB egemenliği arasındaki fark nedir?

AB'de barındırılmak şu anlama gelir: sunucular AB'dedir. AB egemenliği (veya 'veri egemenliği') daha da ileri gider: sağlayıcı ayrıca AB dışı yargı bölgelerinden, yabancı ana şirket ve kontrol sahibi yabancı hissedarlar dahil, yasal ve organizasyonel olarak bağımsızdır. OVH ve Mistral egemen modele yaklaşır; büyük hiper ölçekleyicilerin çoğu (AB bölgeleri olsa bile) yaklaşmaz. En zorlu uyumluluk gereksinimleri için (hükümet, kritik altyapı), kriter yalnızca barındırma değil egemenlik olmalıdır.

Sağlayıcı verileri ne sıklıkla güncellenir?

Tokonomix veritabanındaki barındırma bölgesi verileri, resmi sağlayıcı belgelerinden haftalık olarak güncellenir. Kıyaslama puanları, otomatik test döngülerine dayalı olarak günlük yeniden hesaplanır. Bir tutarsızlık fark ederseniz, sağlayıcı sayfasındaki geri bildirim düğmesi aracılığıyla bir düzeltme önerebilirsiniz.