Amazon Bedrock Bütünlük Korumaları

Amazon Bedrock Bütünlük Korumaları, üretken yapay zeka uygulamalarının büyük ölçekte güvenli bir şekilde oluşturulmasına yardımcı olmak üzere yapılandırılabilir korumalar sağlar. Amazon Bedrock'ta desteklenen altyapı modelleri (FM'ler), ince ayarlanmış modeller ve Amazon Bedrock dışında barındırılan modeller dâhil olmak üzere çok çeşitli FM'ler genelinde kullanılan tutarlı ve standart bir yaklaşımla Bütünlük Korumaları, sektör lideri güvenlik korumaları sunar:

• Halüsinasyon kaynaklı olgusal hataları önlemeye yardımcı olmak için Otomatik Akıl Yürütme'yi kullanır ve bunu yapan ilk ve tek üretken yapay zeka korumasıdır
• Sektör lideri metin ve görüntü içeriği korumaları, müşterilerin zararlı çok modlu içeriğin %88'ine kadarını engellemesine yardımcı olur
• Almayla Artırılmış Üretim (RAG) ve özetleme kullanım örnekleri için modellerden gelen halüsinasyonlu yanıtları %75'in üzerinde bir oranda filtreler

Bütünlük Korumaları, tek bir çözüm içinde üretken yapay zeka uygulamalarınız için güvenlik, gizlilik ve doğruluk korumalarını oluşturmanıza ve özelleştirmenize yardımcı olan, büyük bir bulut sağlayıcısı tarafından sunulan tek sorumlu yapay zeka özelliğidir. Bütünlük Korumaları, kullanıcı girdilerini ve model yanıtlarını kullanım örneklerine özgü politikalara göre değerlendirmeye yardımcı olur ve FM'ler tarafından yerel olarak sağlananların üzerine ek bir koruma katmanı sağlar. Bütünlük Korumaları, Amazon Bedrock'ta desteklenen FM'ler, ince ayarlı modeller ve Amazon Bedrock dışındaki kendi kendine barındırılan modeller dahil olmak üzere çok çeşitli modellerle çalışır. Kullanıcı girdileri ve model çıktıları, ApplyGuardrail API kullanılarak üçüncü taraf ve kendi kendine barındırılan modeller için bağımsız olarak değerlendirilebilir.  Bütünlük Korumaları, sorumlu yapay zeka politikalarıyla uyumlu daha güvenli üretken yapay zeka uygulamaları oluşturmak amacıyla Amazon Bedrock Temsilcileri ve Amazon Bedrock Bilgi Tabanları ile de entegre edilebilir.

Müşterilerin, kullanıcıların güvenini korumak ve artırmak için doğru ve güvenilir üretken yapay zeka uygulamaları dağıtması gerekir. Bununla birlikte, FM'ler kaynak bilgilerden sapılması, birden fazla bilgi parçasının karıştırılması veya yeni bilgiler icat edilmesi gibi halüsinasyonlar nedeniyle yanlış bilgiler üretebilir. Bütünlük Korumaları, yanıtların kaynak bilgilerinde referanslanmaması (ör. olgusal olarak yanlış veya yeni bilgiler) ve kullanıcının sorgusu veya talimatıyla alakasız olması durumunda halüsinasyonları algılamaya ve filtrelemeye yardımcı olmak için bağlamsal referans kontrollerini destekler. Bağlamsal temellendirme denetimleri, model yanıtını doğrulamak üzere kaynak bilgilerin referans olarak kullanılabileceği RAG, özetleme ve konuşma uygulamaları için halüsinasyonları tespit etmede yardımcı olabilir.

Amazon Bedrock Bütünlük Korumaları'ndaki Otomatik Akıl Yürütme denetimleri (önizleme), yanıtların neden doğru olduğunu açıklayan mantıksal olarak doğru ve doğrulanabilir akıl yürütme kullanarak halüsinasyonlardan kaynaklanan olgusal hataları önlemeye yardımcı olan ilk ve tek üretken yapay zeka bütünlük korumasıdır. Otomatik Akıl Yürütme, üretilen bilgileri doğrulamak, düzeltmek ve mantıksal olarak açıklamak için sağlam matematiksel teknikler kullanarak halüsinasyonları azaltmaya yardımcı olur. Çıktıların bilinen gerçeklerle uyumlu olmasını ve uydurma veya tutarsız verilere dayanmamasını sağlar. Geliştiriciler, İK yönergesi veya operasyonel kılavuz gibi doğru çözüm alanını tanımlayan mevcut bir belgeyi karşıya yükleyerek bir Otomatik Akıl Yürütme politikası oluşturabilir. Amazon Bedrock daha sonra benzersiz bir Otomatik Akıl Yürütme politikası oluşturur ve politikanın testleri ve iyileştirilmesi konusunda kullanıcılara rehberlik eder. Oluşturulan içeriği Otomatik Akıl Yürütme politikasına göre doğrulamak için kullanıcıların politikayı Bütünlük Korumaları'nda etkinleştirmesi ve benzersiz bir Amazon Kaynak Adları (ARN'ler) listesiyle yapılandırması gerekir. Bu mantık tabanlı algoritmik doğrulama süreci kapsamında, bir model tarafından oluşturulan bilgilerin bilinen gerçeklere uygun olduğundan, uydurma veya tutarsız verilere dayanmadığından emin olunur. Bu denetimler, üretken yapay zeka modellerinden doğruluğu kanıtlanabilir yanıtlar sunarak yazılım satıcılarının İK, finans, hukuk, uyumluluk vb. alanlardaki kullanım örnekleri için uygulamalarının güvenilirliğini artırmalarını olanak sağlar.

Kuruluş liderleri, ilgili ve güvenli bir kullanıcı deneyimi için üretken yapay zeka uygulamaları içindeki etkileşimleri yönetme ihtiyacının farkındadır. İşleriyle ilgili konulara odaklanmış durumda kalmak ve şirket politikalarıyla uyumlu olmak için etkileşimlerde daha fazla özelleştirme yapmak isterler. Bütünlük Korumaları, uygulamanız bağlamında kaçınmanız gereken bir dizi konuyu kısa bir doğal dil açıklaması kullanarak tanımlamanıza yardımcı olur. Bütünlük Korumaları, kısıtlanmış konuları içeren kullanıcı girdilerini ve altyapı modeli yanıtlarını algılamaya ve engellemeye yardımcı olur. Örneğin, bir bankacılık asistanı yatırım tavsiyesiyle ilgili konulardan kaçınmak amacıyla tasarlanabilir.

Bütünlük Korumaları, toksik metin ve görüntü içeriği için yapılandırılabilir eşiklere sahip içerik filtreleri sağlar. Koruma, nefret söylemi, hakaret, seks, şiddet ve suistimal (suç faaliyeti dâhil) gibi konuları içeren zararlı çok modlu içerikleri filtrelemeye ve anında saldırılara (istem ekleme ve kısıtlamaların kaldırılması) karşı korunmaya yardımcı olur. İçerik filtreleri, istenmeyen ve potansiyel olarak zararlı metin ve/veya görüntüleri tespit etmek ve önlemeye yardımcı olmak için hem kullanıcı girişini hem de model yanıtlarını otomatik olarak değerlendirir. Örneğin bir e-ticaret sitesi, çevrimiçi asistanını nefret söylemi veya hakaret gibi uygunsuz bir dil kullanmaktan kaçınmak için tasarlayabilir.

Bütünlük Korumaları, kullanıcı girdilerindeki ve altyapı modeli yanıtlarındaki kimliği tanımlayabilecek bilgiler (PII) gibi hassas içerikleri algılamanıza yardımcı olur. Önceden tanımlanmış PII listesinden seçim yapabilir veya normal ifadeleri (RegEx) kullanarak özel bir hassas bilgi türü tanımlayabilirsiniz. Kullanım örneğine bağlı olarak, hassas bilgiler içeren girişleri seçici olarak reddedebilir veya altyapı modeli yanıtlarında sansürleyebilirsiniz. Örneğin, bir çağrı merkezindeki müşteri ve temsilci konuşma dökümlerinden özetler oluştururken kullanıcıların kişisel bilgilerini düzenleyebilirsiniz.