[心得] 跨雲端 AI 服務統一 API Gateway

Blog: https://bit.ly/4gHZmDb
Slide: https://bit.ly/4mEbKpd

在當今的企業環境中，Generative AI 技術已經成為提升業務效率和創新能力的關鍵。然而，隨著 AI 服務的多樣化和分散化，如何統一管理和調用這些服務成為了一個挑戰。本文將介紹如何使用 Golang 開發一個跨雲端 AI 服務的統一 API Gateway，實現安全、可擴展的企業級解決方案。

1. 身份驗證與授權
2. 多雲人工智慧後端整合 ( Azure OpenAI、AWS Bedrock、Google Gemini AI …. )
3. 流量控制與資源管理
4. 監控與指標聚合

2022 年 ChatGPT 橫空出世，讓 Generative AI 技術迅速普及。隨著 OpenAI、Google、Microsoft 等科技巨頭的加入，AI 服務的生態系統變得越來越複雜。而當時沒有一個可用的 API Gateway 來統一管理這些服務，開發者需要面對不同的 API、身份驗證和授權機制，這對企業來說是一個巨大的挑戰。所以團隊花了大量時間來開發一個統一的 API
Gateway，這個 Gateway 不僅能夠整合多個 AI 服務，還能提供安全、可擴展的解決方案。也非常感謝當時的團隊成員 Rueian 及其他協助同仁。

背後使用的是 Rueian 所開發的 rueidis[1] 套件，這是一個高效的 Redis 客戶端，能夠支
援 Pipeline、Transaction 等功能。此套件已經被 Redis 官方認可並廣泛使用。

[1]: https://github.com/redis/rueidis

--