RError.com

RError.com Logo RError.com Logo

RError.com Navigation

  • 主页

Mobile menu

Close
  • 主页
  • 系统&网络
    • 热门问题
    • 最新问题
    • 标签
  • Ubuntu
    • 热门问题
    • 最新问题
    • 标签
  • 帮助
主页 / 问题

全部问题

Martin Hope
Kadenza
Asked: 2025-02-01 19:33:50 +0000 UTC

LLM模型的硬件参数如何选择?

  • 5
比赛还有4天就结束。回答该问题可能会获得+50声誉点的奖励。 Kadenza希望得到这个问题 更详细的答案。

如何确定语言模型的 RAM、视频内存等的数量。至少非常粗略地讲。

从两个部分来理解所需的能力是很有趣的:

  1. 推出完成的模型。
  2. 微调。

在影响硬件功率的重要参数中,我确定了以下几点:

  1. 参数的数量(3B、16B、128B……)——越多,所需硬件越强大。
  2. 量化(Q3...Q8 或 FP16...FP32)——越多,所需的硬件越强大。
  3. 上下文窗口的大小 - 越大,所需的硬件越强大。

其他哪些型号的特性会极大地影响功耗?那么如何根据这些特点,粗略的估算出一台服务器或者PC的具体功率呢?

如有任何建议我将不胜感激。

машинное-обучение
  • 3 个回答
  • 85 Views
Martin Hope
Александр
Asked: 2025-02-01 02:34:57 +0000 UTC

Python if 条件[关闭]

  • -1
关闭。这个问题与主题无关。目前不接受对此问题的答复。

该问题是由无法再重现的问题或打字错误引起的。尽管类似的问题可能适合在此网站上提出,但该问题的解决方案不太可能对未来的访问者有所帮助。通常,您可以在发布问题之前编写并测试一个最小程序来重现问题,从而避免此类问题。

昨天休息。

改进问题
s = ""
input(s)
if s == "":
    print("Пусто")
else:
    print("End")

为什么这个设计不起作用?
输出始终为“空”

python
  • 4 个回答
  • 131 Views
Martin Hope
Николай
Asked: 2025-02-01 01:29:51 +0000 UTC

OpenVpn 看不到互联网 OpenVPN Wintun

  • 4
  1. 再会。在 Win10 上设置 OpenVPN 服务器。
  2. 我从有互联网的网络访问了 Wintun
  3. 我已经禁用了防火墙(我将打开端口进行检查)Wintun 仍然看不到互联网,而且似乎因此在外部界面上看不到它。内部网络一切正常。

我明白问题出在一些小事上。可是就算你杀了我,我还是无法理解。

openvpn
  • 1 个回答
  • 22 Views
Martin Hope
Timur
Asked: 2025-01-31 20:38:04 +0000 UTC

Python 库不起作用:启动 VS Code 时终端中的虚拟环境不会自动激活

  • 5

我遇到了以下问题:我在日常生活中使用 Windows,但在开发过程中我非常喜欢使用 Linux。为了让我感觉舒服,我使用 WSL,并在其中使用 Ubuntu(如果这有助于解决问题)。每次我开始创建一个新项目时,我当然都会创建一个虚拟环境,然后发生以下情况:创建初始环境后,我通过终端导入我需要的所有库,在启动 Vs 代码后,code .我注意到虚拟环境未激活,并且我之前通过终端导入的所需的库未安装。有什么解决方案吗?我将非常感激,因为这极大地干扰了发展......

python
  • 1 个回答
  • 47 Views
Martin Hope
Antisfera
Asked: 2025-01-31 07:43:34 +0000 UTC

(webSocket)我无法从手机连接到服务器。代码#

  • 6

该服务器有一个控制台应用程序。服务器在 VPS 上运行。一个wifi上有两个设备。第一个是一台电脑。我可以轻松地从那里登录。通过 unity 内部为 android 构建 unity。第二个是我的安卓。我无法从它连接到服务器。

await webSocket.ConnectAsync(new Uri("ws://45.143.93.104:8080"), CancellationToken.None);

我得出的结论是,我需要一个 Android 的 SSL/TLS 证书才能允许连接。但我不知道该怎么做。也涉及 IP。我没有域名...

有人能给我一些建议吗?这个证书是强制性的吗?没有其他办法了吗?稍后是否需要通过WSS来做?

c#
  • 1 个回答
  • 49 Views
上一页
下一页

Sidebar

Stats

  • 问题 10021
  • Answers 30001
  • 最佳答案 8000
  • 用户 6900
  • 常问
  • 回答
  • Marko Smith

    我看不懂措辞

    • 1 个回答
  • Marko Smith

    请求的模块“del”不提供名为“default”的导出

    • 3 个回答
  • Marko Smith

    "!+tab" 在 HTML 的 vs 代码中不起作用

    • 5 个回答
  • Marko Smith

    我正在尝试解决“猜词”的问题。Python

    • 2 个回答
  • Marko Smith

    可以使用哪些命令将当前指针移动到指定的提交而不更改工作目录中的文件?

    • 1 个回答
  • Marko Smith

    Python解析野莓

    • 1 个回答
  • Marko Smith

    问题:“警告:检查最新版本的 pip 时出错。”

    • 2 个回答
  • Marko Smith

    帮助编写一个用值填充变量的循环。解决这个问题

    • 2 个回答
  • Marko Smith

    尽管依赖数组为空,但在渲染上调用了 2 次 useEffect

    • 2 个回答
  • Marko Smith

    数据不通过 Telegram.WebApp.sendData 发送

    • 1 个回答
  • Martin Hope
    Alexandr_TT 2020年新年大赛! 2020-12-20 18:20:21 +0000 UTC
  • Martin Hope
    Alexandr_TT 圣诞树动画 2020-12-23 00:38:08 +0000 UTC
  • Martin Hope
    Air 究竟是什么标识了网站访问者? 2020-11-03 15:49:20 +0000 UTC
  • Martin Hope
    Qwertiy 号码显示 9223372036854775807 2020-07-11 18:16:49 +0000 UTC
  • Martin Hope
    user216109 如何为黑客设下陷阱,或充分击退攻击? 2020-05-10 02:22:52 +0000 UTC
  • Martin Hope
    Qwertiy 并变成3个无穷大 2020-11-06 07:15:57 +0000 UTC
  • Martin Hope
    koks_rs 什么是样板代码? 2020-10-27 15:43:19 +0000 UTC
  • Martin Hope
    Sirop4ik 向 git 提交发布的正确方法是什么? 2020-10-05 00:02:00 +0000 UTC
  • Martin Hope
    faoxis 为什么在这么多示例中函数都称为 foo? 2020-08-15 04:42:49 +0000 UTC
  • Martin Hope
    Pavel Mayorov 如何从事件或回调函数中返回值?或者至少等他们完成。 2020-08-11 16:49:28 +0000 UTC

热门标签

javascript python java php c# c++ html android jquery mysql

Explore

  • 主页
  • 问题
    • 热门问题
    • 最新问题
  • 标签
  • 帮助

Footer

RError.com

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

帮助

© 2023 RError.com All Rights Reserve   沪ICP备12040472号-5