Repository navigation
关于一些预设和i18n的建议
#1781
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
非常感谢你们的付出,我并不是想要找麻烦,只是把我遇到的情况说一下
首先是关于nvidia的nim的问题,一方面是nim提供的模型非常多,但是名字又很难直接在网页上获取,目前manifest在一个供应商最多只能有50个,确实不太够,另一方面是模型获取之后默认价格是空白而不是0,变成我需要额外花时间去填入,也是有点令人感到不适
另一方面是i18n方面,能否让本项目加入例如Weblate这种社区协助本地化的平台,让我也能协助更快的把这个项目能够适配简体中文
最后是你们目前网页版对移动设备的页面兼容性非常差,所以如果可以的话,麻烦你们在有空的时候稍微优化一下,十分感激
关于你们最核心的智能路由功能,我感觉是缺少一个关键的能力,就是识别模型输入类型和输出类型
例如有的模型是多模态的,支持输入 图片和文本,输出文本
有的模型可能是tts,支持输入文本输出音频
有的是图片生成模型,支持输入图片和文本,输出图片,
考虑这两个方面可能更有利于自动路由,
我相信你们一定有了解过LLMrouter那个项目了,
但对于智能路由我有另一个思路,能否利用openrouter的ranking数据,用大量的用户选择来进行智能路由的一项推荐
我不敢说这是全局最优,但最起码应该能做到局部最优,
最后是一个比较进阶的建议,是否会加入隐私防火墙,例如类似oneaifw这个项目的功能,利用路由层来进行本地的隐私隔离
你们的项目是我目前所了解的大语言模型路由里非常好用的,很感激你们的付出,也希望我能提供我力所能及的一些帮助
All reactions