Açık Chroma Veritabanları: AI Uygulamaları için Yeni Bir Saldırı Yüzeyi

Chroma, LLM sohbet botlarının kullanıcıların sorularını yanıtlamada ilgili bilgileri aramasına olanak tanıyan bir veri tabanı olan açık kaynaklı bir vektör deposudur ve son AI patlaması ile benimsenmesi artan birçok teknolojiden biridir. Birçok veri tabanında olduğu gibi, Chroma, son kullanıcılar tarafından kimlik doğrulama ve yetkilendirme mekanizmalarının yokluğu ile yapılandırılabilir. Kimlik doğrulama olmadan interneti açık olan veri tabanlarına, anonim kullanıcılar eriştiğinde, bu kullanıcılar verileri okuyabilir ve hatta veri tabanındaki verileri güncelleyebilir. Bu durum, verilerin gizliliğini, kullanılabilirliğini ve bütünlüğünü tehlikeye atma potansiyeline sahiptir.

İnternete açık Chroma veritabanlarının sayısı, eski tür veritabanlarına göre çok daha az olsa da, bu sayı artmakta ve potansiyel olarak yakın gelecekte önemli veri sızıntılarına neden olabilecek bir kaynak haline gelmektedir. İnternete açık 1170 Chroma veritabanını incelediğimizde, 406'sının, yani yaklaşık üçte birinin, bazı veri türlerini açığa çıkardığını bulduk. Bunlar arasında en dikkat çekeni, Canva Yaratıcılarından bazı Kişisel Olarak Tanımlanabilir Bilgilerin (PII) sızdırılmasıydı, bu konuda burada yazdık.

Chroma veritabanı nedir?

Bir otel veya restoran web sitesi için bir sohbet botu kurduğunuzu söyleyin. Bu durumda, istemi tamamlamak için bir büyük dil modeline (LLM) ihtiyaç duyarsınız, ancak işletmenize özgü olan çalışma saatleri, olanaklar, adresiniz ve web sitesi ziyaretçileri için gerekli diğer bilgiler gibi verilerin bir deposuna da ihtiyacınız olacaktır.

Chroma içinde, bu tür bilgiler genellikle chatbot için ilgili bilgileri içeren basit dizeler halindeki "belgeler" biçiminde bulunur. Bu dizelerden biri, "Çalışma saatlerimiz haftada 7 gün, sabah 9'dan akşam 10'a kadar." gibi bir şey olabilir. Sonra, biri chatbot'unuzdan çalışma saatlerinizi sorduğunda, ChromaDB bu belgeyi bulur çünkü sorguya en yakın olan budur ve ardından cevabın konuşma dilinde duyulmasını sağlamak için LLM üzerinden tekrar işler. Son kullanıcı şu şekilde bir cevap alabilir: "Her gün sabah 9'dan akşam 10'a kadar açığız ve sizi bekliyoruz!"

Kimlik doğrulaması olmadan Chroma veritabanlarının dağıtımı

Nisan 2025'te interneti incelediğimizde, 1170 internet erişilebilir Chroma veritabanı vardı. Her IP adresi için herhangi bir verinin açığa çıkıp çıkmadığını belirlemek için .list_collections yöntemini kullandık ve ardından her koleksiyondan verileri almak için .get_collection kullandık. Bu durumda, 406 veritabanı bir şekilde veri döndürdü ve yaklaşık üçte ikisi bir kimlik doğrulama hatası döndürdü ya da veri içermiyordu.

Her veritabanının mantıksal olarak ayrı olan birden fazla "koleksiyonu" olabilir; bu da belgelerin iyi bir şekilde gruplandırılması anlamına gelir. Bir veritabanındaki koleksiyon sayısı, onların aktif olarak kullanılıp kullanılmadığını ve ne ölçüde kullanıldığını anlamak için bir gösterge sunar. En çok kullanılan veritabanında 4.315 koleksiyon bulunmaktaydı ki bu kesinlikle bazı türlerden ağır kullanım anlamına gelir. Anonim erişime izin veren birçok veritabanında anlamlı veri yoktu, ancak %60'ı birden fazla koleksiyona sahipti; bu da varsayılan koleksiyon dışında bazı değişiklikler olduğuna işaret ediyor ve %32'sinde beş veya daha fazla koleksiyon bulunuyordu.

Chroma veritabanlarının coğrafi dağılımı

İnternete açık Chroma veritabanlarını barındıran IP adreslerinin coğrafi konumu, yanlış yapılandırmaların sonuçlarından en çok hangi bölgelerin risk altında olduğunu anlamamıza yardımcı olmaktadır. Bazı yapay zeka teknolojilerinin Çin'de aşırı kullanımı varken, Chroma genellikle ABD ve Avrupa'da kullanılmakta, Hindistan'da da dikkat çekici bir varlık göstermektedir. En yaygın 20 ülkenin ötesindeki Avrupa uluslarının uzun kuyruklarını daha iyi temsil etmek için, AB'nin tamamı için bir toplam sayı dahil edilmiştir.

Kimlik doğrulaması yapılmamış Chroma veritabanıyla ilişkili riskler

Veri sızıntısı

Anket yaptığımız 406 açık Chroma örneğinin çoğunun basit keşif için kullanıldığı ve çok fazla özgün veri içermediği sonucuna vardık. Ancak, herhangi bir ağ teknolojisinde olduğu gibi, internette bir yerlerde chatbot LLM'lerini güçlendiren gerçek veriler içeren Chroma sunucuları da bulduk.

ChromaDB'nin yaygın bir kullanım alanı, Hindistan'daki ve çevresindeki daire ve otel kiralamalarıyla ilgili verileri sağlamak gibi görünmektedir. Bir dizi sunucu, mülkler ve bunların olanakları hakkında bilgi içermekteydi; bunlar bir web sitesi ziyaretçisinin muhtemelen sorgulayacağı şeylerdir. Bu kullanım durumu Chroma için mantıklıdır ve hassas verilerin sızmasını engeller, ancak veritabanlarının, saldırganların verilere doğrudan erişimini engelleyen bazı güvenlik önlemlerine sahip olması gerekmektedir.

Başka bir sunucunun bir e-ticaret SEO hizmetine ait olduğu ortaya çıktı. Veritabanı sahibi, LLM chatbot'un bilgilerini artırmanın bir yolu olarak müşteri destek sohbet kayıtlarıyla doldurmuştu. Ortak sorularla ilgili birinin önceki konuşmasını ekleyerek, bot artık gelecekteki sorulara yanıt verirken yararlanabileceği o önceki deneyime sahip olacaktı. Bu elbette, eğer herhangi bir hassas müşteri verisi Chroma'ya eklenmişse, bunun chatbot'un gelecekteki kullanıcıları tarafından görülebileceği konusunda endişeleri artırıyor. Gerçekten de, bu durumu gördük - gerçek kullanıcı biletleri ile bir destek botunu geliştirmeye çalışmak, LlamaIndex adında başka bir AI teknolojisi için kişisel tanımlayıcı bilgilerin (PII) sızmasına yol açtı.

Yazılabilirlik

Chroma'nın güvenlik belgelerine göre, kimlik doğrulama varsayılan olarak devre dışıdır. "Varsayılan olarak, Chroma kimlik doğrulama gerektirmemektedir. Bunu manuel olarak etkinleştirmeniz gerekir. Chroma'yı halka açık bir ortamda dağıtıyorsanız, kimlik doğrulamayı etkinleştirmeniz şiddetle tavsiye edilir."

Mevcut verilere erişmek sadece bir endişe. Diğer bir endişe, kötü niyetli bir kullanıcının bir sohbet robotuna sunulan verileri değiştirebilir veya bozulmasına neden olabileceğidir. Yetkisiz ve açık bir ChromaDB örneğine sahip bir üretim sohbet robotunun, bir sohbet robotu kullanıcısına yanlış veya hatta tehlikeli bilgiler sunabileceği birçok durumu hayal etmek kolaydır.

Bir saldırganın Chroma veritabanına kısıtlamasız erişimle bunu nasıl kötüye kullanabileceğini göstermek için, yanıltıcı belgeler yüklediğimiz, doğru belgeleri sildiğimiz ve belgeleri kullanıcıları saldırgan kontrolündeki kaynaklara yönlendiren belgelerle değiştirdiğimiz bir demonstration oluşturduk.

Sonuç

Chroma'nın demo defterini kullanırken öğrendiğimiz gibi, belgeleri AI destekli uygulamalarda kullanmak için geri almak gerçekten harika bir teknolojidir. Binlerce internet erişimine açık örnek ile sağlıklı bir benimseme ve büyüme gösteriyor gibi görünüyor. Ancak kullanıcılar, veritabanlarını güvenli bir şekilde yapılandırmanın yollarını bilmelidir, özellikle de varsayılan olarak kimlik doğrulamanın eksik olduğu göz önüne alındığında. (Bir yana, Elasticsearch bir zamanlar aynı kararı aldı - kimlik doğrulamayı atlayarak sorumluluğun web uygulama katmanına ait olduğu ilkesine dayanarak - ve sonradan Elasticsearch veri sızıntılarının sıklığı nedeniyle bunu değiştirdi.) Anonim kullanıcıların veritabanına erişimini engelleyen bazı mekanizmaların sağlanmasının yanı sıra, kullanıcılar ayrıca sızıntı veya ihlal durumunda etkisini en aza indirmek için PII veya diğer gizli bilgilerin verilerini temizlemeyi de düşünmelidir.