v2::V2NIMAIModelConfigParams结构体 参考

#include <v2_nim_def_struct.hpp>

Public 属性
nstd::optional< nstd::string >	prompt
	提示词
nstd::optional< int32_t >	maxTokens
	模型最大 tokens 数量
nstd::optional< double >	topP
	取值范围 (0, 1), 生成时, 核采样方法的概率阈值。
nstd::optional< double >	temperature
	取值范围 (0, 2), 用于控制随机性和多样性的程度。

类成员变量说明

maxTokens

nstd::optional<int32_t> v2::V2NIMAIModelConfigParams::maxTokens

模型最大 tokens 数量

prompt

nstd::optional<nstd::string> v2::V2NIMAIModelConfigParams::prompt

提示词

temperature

nstd::optional<double> v2::V2NIMAIModelConfigParams::temperature

取值范围 (0, 2), 用于控制随机性和多样性的程度。

topP

nstd::optional<double> v2::V2NIMAIModelConfigParams::topP

取值范围 (0, 1), 生成时, 核采样方法的概率阈值。

---

该结构体的文档由以下文件生成:

• D:/GitLab/builds/7_aFT3sv/0/nim-pc/california/nim-cross-platform-sdk/exports/include/v2_nim_def_struct.hpp