Model Config (Khám phá)

Tài liệu này ghi lại các ý tưởng cho việc cấu hình model trong tương lai. Đây không phải là spec chính thức. Để xem cách hoạt động hiện tại, các bạn xem:

• Models
• Model failover
• OAuth + profiles

Động lực

Các operator muốn:

• Nhiều auth profile cho mỗi provider (cá nhân vs công ty).
• Lựa chọn /model đơn giản với fallback có thể dự đoán được.
• Phân tách rõ ràng giữa text model và model hỗ trợ hình ảnh.

Hướng đi có thể (tổng quan)

• Giữ việc chọn model đơn giản: provider/model với alias tùy chọn.
• Cho phép provider có nhiều auth profile, với thứ tự rõ ràng.
• Dùng danh sách fallback toàn cục để tất cả session đều fail over nhất quán.
• Chỉ override image routing khi được config rõ ràng.

Câu hỏi mở

• Profile rotation nên theo provider hay theo model?
• UI nên hiển thị việc chọn profile cho session như thế nào?
• Đường migration an toàn nhất từ các config key cũ là gì?