TÜV Rheinland, yapay zekâlı araç sistemlerinin güvenliğini düzenleyen ISO/PAS 8800 standardı kapsamındaki ilk sertifikasını verdi.
Sertifika, Çin devletine ait otomotiv grubu Dongfeng Motor Corporation’ın ürün geliştirme ve araştırma merkezine ait yönetim süreçlerini kapsıyor.
Bu, teknik bir uyum belgesinden fazlası. Otomotiv güvenlik denetiminin neyi denetlediğine dair bir değişimin ilk somut örneği.
Önce bir düzeltme: “Dünyanın ilki” ifadesi
Haber Türkiye’de ve uluslararası basında zaman zaman “dünyanın ilk yapay zekâ araç güvenlik sertifikası” olarak aktarıldı. Bu ifade tam olarak doğru değil ve netleştirmek gerekiyor.
ISO/PAS 8800 kapsamındaki ilk ürün sertifikasyonu, 2026’nın mart ayında Synopsys şirketine verildi. SGS-TÜV Saar tarafından yürütülen değerlendirme, şirketin MACsec adlı yarı iletken bileşenini kapsıyordu ve standardın ilk kez bileşen düzeyinde uygulanması anlamına geliyordu.
Dongfeng’in aldığı belge ise farklı bir kategoride: TÜV Rheinland’ın bu standart kapsamında verdiği ilk sertifika ve bir bileşeni değil, bir otomobil üreticisinin geliştirme organizasyonunun yönetim süreçlerini kapsıyor.
İki belge birbirinin rakibi değil, farklı şeyleri belgeliyor. Ancak “dünyanın ilki” nitelemesi, hangi kategoriden söz edildiği belirtilmeden kullanıldığında yanıltıcı oluyor.
ISO/PAS 8800 neyi düzenliyor?
Standardın tam adı “Road vehicles — Safety and artificial intelligence” ve 2024’te yayımlandı.
Kapattığı boşluğu anlamak için mevcut çerçeveye bakmak gerekiyor.
ISO 26262, araçlardaki elektrik ve elektronik sistemlerin işlevsel güvenliğini düzenliyor. Temel sorusu şu: sistem, tanımlandığı işi yapıyor mu ve arızalandığında güvenli biçimde mi arızalanıyor?
ISO 21448 (SOTIF), sistem arızalanmasa bile ortaya çıkabilecek riskleri ele alıyor. Yani “her şey tasarlandığı gibi çalıştı ama yine de tehlikeli bir durum oluştu” senaryolarını.
Bu ikisi, davranışı belirlenimci olan yazılım için işe yarıyor. Yapay zekâ için yaramıyor.
Neden yaramıyor?
Geleneksel yazılımda davranış koddadır. Kodu inceleyerek sistemin ne yapacağını belirleyebilirsiniz.
Yapay zekâ sistemlerinde davranış kodda değil, model ağırlıklarında bulunur. O ağırlıklar da eğitim verisinden gelir. Yani sistemin ne yapacağı, ne öğrendiğine bağlıdır ve ne öğrendiği hangi veriyle eğitildiğine bağlıdır.
Bu, denetimin nesnesini değiştiriyor.
TÜV Rheinland’ın değerlendirmesi tam olarak buna işaret ediyor: yapay zekâ sistemlerinde yalnızca yazılımı değerlendirmek yeterli değil. Veri setleri, modeller, eğitim süreçleri ve operasyonel davranış da güvenlik açısından belirleyici olabiliyor.
ISO/PAS 8800 bu unsurları güvenlik yaşam döngüsünün parçası haline getiriyor. Standardın önerdiği yapay zekâ güvenlik yaşam döngüsü; gereksinimlerin belirlenmesinden tasarıma, doğrulama ve geçerleme aşamalarından bakım ve sahada izlemeye kadar tüm evreleri kapsıyor.
Son madde önemli. Yapay zekâ sistemleri sahada davranış değiştirebildiği için, güvenlik değerlendirmesi araç satıldığında bitmiyor.
Hangi riskler hedefleniyor?
Standardın ele aldığı risk türleri, geleneksel işlevsel güvenlik çerçevesinde adı bile geçmeyen kategoriler:
Uygun olmayan eğitim verisi. Bir yaya algılama modeli, eğitim verisinde yeterince temsil edilmemiş bir grubu daha kötü algılar. Bu bir kod hatası değil, veri kümesinin bileşim sorunudur ve klasik yazılım testiyle yakalanmaz.
Yeni durumlarda beklenmeyen davranış. Modelin hiç görmediği bir sahne, öngörülemeyen bir tepkiye yol açabilir.
Gerçek kullanımda değişim. Sistem sahada güncellendiğinde ya da çalışma koşulları değiştiğinde davranışı kayabilir.
Bu üç madde, otonom sürüş ve gelişmiş sürücü destek sistemlerinde yaşanan gerçek kazaların önemli bölümünü tarif ediyor.
“PAS” ne demek?
Bir ayrıntı, standardın statüsünü belirliyor ve haberlerde neredeyse hiç açıklanmıyor.
PAS, Publicly Available Specification yani Kamuya Açık Şartname anlamına geliyor. Tam bir Uluslararası Standart (IS) değil; ISO’nun hızlandırılmış süreçle yayımladığı bir ön standart.
Bu, belgenin değersiz olduğu anlamına gelmiyor. Teknolojinin hızlı geliştiği alanlarda ISO, tam standardın uzun süren geliştirme sürecini beklemek yerine önce bir PAS yayımlıyor. Uygulamadan gelen geri bildirimle belge sonradan tam standarda dönüşebiliyor.
Yol güvenliği açısından pratik sonucu şu: bu, tip onayı için zorunlu bir belge değil. Şu an gönüllü bir sertifikasyon. Ancak TÜV Rheinland’ın değerlendirmesine göre, standarda uygun biçimde oluşturulmuş yapılandırılmış bir kanıt gövdesi, ileride araç tip onayı ve ürün sorumluluğu açısından anlam taşıyabilir.
Bu cümle, belgenin asıl değerini gösteriyor. Bir kaza sonrası hukuki süreçte, üreticinin yapay zekâ sistemini nasıl geliştirdiğini ve doğruladığını gösteren bağımsız denetimli bir kayıt bulunması, sorumluluk değerlendirmesini doğrudan etkiler.
İki farklı yaklaşım: Süreç mi, sonuç mu?
Bu gelişme, yapay zekâ güvenliğinin düzenlenmesinde iki ayrı yolun aynı anda ilerlediğini gösteriyor.
Süreç yaklaşımı. ISO/PAS 8800’ün yaptığı bu. Sistemin nasıl geliştirildiğini, hangi verinin kullanıldığını, doğrulamanın nasıl yapıldığını denetliyor. Mantığı şu: iyi bir süreç, güvenli bir ürün üretme olasılığını yükseltir.
Sonuç yaklaşımı. Çin Sanayi ve Bilgi Teknolojileri Bakanlığı’nın 1 Temmuz 2027’de yürürlüğe girecek zorunlu otonom sürüş standardı bu kategoride. Ölçütü doğrudan performans: otonom sürüş sistemi, nitelikli ve dikkatli bir sürücüye en az denk güvenlik düzeyine ulaşmak zorunda.
İkisi birbirini tamamlıyor. Süreç denetimi, sonuç ölçümünün mümkün olmadığı ya da yetersiz kaldığı yerlerde devreye giriyor. Yapay zekâ sistemlerinde tüm senaryoları test etmek fiilen imkânsız olduğu için, sürecin denetlenmesi tek başına önemli bir güvence katmanı.
Neden Dongfeng?
Sertifikayı alan tarafın Çinli bir devlet şirketi, veren tarafın ise Alman bir belgelendirme kuruluşu olması tesadüf değil.
Çinli üreticiler için Avrupa merkezli bir kuruluştan alınan belge, ihracat pazarlarında güven inşasının bilinen bir aracı. Otonom sürüş ve yapay zekâ destekli sistemlerde Avrupa pazarına giriş, teknik uygunluk kadar kurumsal güvenilirlik de gerektiriyor.
Aynı zamanda bu, Çin’in bu yıl yürüttüğü daha geniş bir düzenleme dalgasının parçası. Ağustos ayında ilk okumaya sunulan Karayolu Trafik Güvenliği Kanunu taslağı, otonom sürüş devredeyken işlenen ihlallerin muhatabını üretici olarak tanımlıyor. Aynı ay, kaza sonrası kapı açma düzenekleri nedeniyle 4,3 milyon araç geri çağırıldı ve gizli kapı kolları 2027’den itibaren yasaklandı.
Sektör analistleri, Çin’in ileri araç teknolojisinde adım adım düzenleyici liderliğe yaklaştığı görüşünde. Bu sertifika, o yönelimin uluslararası belgelendirme tarafındaki karşılığı.
Yol güvenliği açısından değerlendirme
Bir sertifikanın kaza sayılarına doğrudan etkisi ölçülemez. Ancak bu gelişme üç açıdan kayda değer.
Birincisi, denetimin nesnesi değişiyor. Yapay zekânın güvenliğini kodu inceleyerek değerlendiremeyeceğimiz artık kurumsal olarak kabul edilmiş durumda. Veri setinin bileşimi, bir fren balatasının malzeme özelliği kadar güvenlik unsuru sayılıyor. Bu, kavramsal olarak ciddi bir eşik.
İkincisi, sahada izleme yükümlülüğü. Standardın yaşam döngüsü, aracın satışından sonrasını da kapsıyor. Yazılım güncellemeleriyle davranışı değişen araçlar dünyasında, bir kereye mahsus onay modeli zaten sürdürülemez hale gelmişti.
Üçüncüsü, sorumluluk zinciri. Yapılandırılmış kanıt gövdesi, kaza sonrası soruşturmalarda “bu sistem nasıl geliştirildi ve neye göre güvenli sayıldı” sorusuna cevap verecek bir kayıt oluşturuyor.
Eksik olan ise şu: standart gönüllü ve PAS statüsünde. Sertifikasyonun yaygınlaşması, tip onayı mevzuatına bağlanmasına ya da pazar baskısına bağlı. Bugün için bu, uyum yükümlülüğü değil, rekabet avantajı.
Yapay zekâlı sürüş sistemleri hızla yaygınlaşırken, bu ayrımın ne kadar süre korunabileceği ayrı bir soru.
Habertrafik
