Databricks Blog·· 3 ชม. ที่แล้วคะแนน AI25
AUMOVIO รวมศูนย์การเข้าถึง LLM ด้วย Databricks Unity Gateway
How AUMOVIO centralized AI access with Databricks Unity Gateway
สรุปโดย AI
AUMOVIO ได้รวมการเข้าถึง LLM ที่กระจัดกระจายให้เป็น AI gateway ศูนย์กลางเพียงจุดเดียวที่สร้างบน Databricks Unity Gateway โดยกำหนดเส้นทาง alias โมเดล 1adp-* ที่เป็นกลางต่อผู้จำหน่ายไปยังโมเดลที่โฮสต์บน Databricks, Google Vertex AI, Azure OpenAI, AWS Bedrock และอื่นๆ การตั้งค่านี้ผสานรวมกับ tenant ของ Microsoft Entra ID ขององค์กรผ่านการแลกเปลี่ยนโทเค็น และจัดการทั้งหมดเป็นโครงสร้างพื้นฐานแบบ Terraform infrastructure as code Unity Gateway รายงานการใช้โทเค็นที่กำหนดให้กับศูนย์ต้นทุนเพื่อการเรียกเก็บเงินคืน และ 1ADP AI App มอบการเข้าถึง AI แบบมี governance และไม่ต้องเขียนโค้ดให้กับพนักงาน
แหล่งข่าว:Databricks Blog · databricks.com