volcenginecc.ark.Endpoint
在使用大语言模型进行推理服务时,推理接入点(Endpoint)是模型调用的关键入口。开发者只需通过指定的 ID 即可向大模型发起 API / SDK 推理请求,实现快速接入与灵活调用。系统提供统一的 API 调用方式、调用监控、限流策略与安全保障机制,确保推理过程的稳定性与安全性。
Example Usage
Example coming soon!
Example coming soon!
Example coming soon!
Example coming soon!
Example coming soon!
resources:
endpointDemo:
type: volcenginecc:ark:Endpoint
name: EndpointDemo
properties:
name: EndpointDemo
description: endpoint for tf demo
modelReference:
foundation_model:
name: doubao-1-5-thinking-***
modelVersion: '250428'
tags:
- key: env
value: test
projectName: default
rateLimit:
tpm: 5
rpm: 10
Create Endpoint Resource
Resources are created with functions called constructors. To learn more about declaring and configuring resources, see Resources.
Constructor syntax
new Endpoint(name: string, args: EndpointArgs, opts?: CustomResourceOptions);
@overload
def Endpoint(resource_name: str,
args: EndpointArgs,
opts: Optional[ResourceOptions] = None)
@overload
def Endpoint(resource_name: str,
opts: Optional[ResourceOptions] = None,
model_reference: Optional[EndpointModelReferenceArgs] = None,
name: Optional[str] = None,
description: Optional[str] = None,
model_unit_id: Optional[str] = None,
moderation: Optional[EndpointModerationArgs] = None,
project_name: Optional[str] = None,
rate_limit: Optional[EndpointRateLimitArgs] = None,
tags: Optional[Sequence[EndpointTagArgs]] = None)
func NewEndpoint(ctx *Context, name string, args EndpointArgs, opts ...ResourceOption) (*Endpoint, error)
public Endpoint(string name, EndpointArgs args, CustomResourceOptions? opts = null)
public Endpoint(String name, EndpointArgs args)
public Endpoint(String name, EndpointArgs args, CustomResourceOptions options)
type: volcenginecc:ark:Endpoint
properties: # The arguments to resource properties.
options: # Bag of options to control resource's behavior.
Parameters
- name string
- The unique name of the resource.
- args EndpointArgs
- The arguments to resource properties.
- opts CustomResourceOptions
- Bag of options to control resource's behavior.
- resource_name str
- The unique name of the resource.
- args EndpointArgs
- The arguments to resource properties.
- opts ResourceOptions
- Bag of options to control resource's behavior.
- ctx Context
- Context object for the current deployment.
- name string
- The unique name of the resource.
- args EndpointArgs
- The arguments to resource properties.
- opts ResourceOption
- Bag of options to control resource's behavior.
- name string
- The unique name of the resource.
- args EndpointArgs
- The arguments to resource properties.
- opts CustomResourceOptions
- Bag of options to control resource's behavior.
- name String
- The unique name of the resource.
- args EndpointArgs
- The arguments to resource properties.
- options CustomResourceOptions
- Bag of options to control resource's behavior.
Constructor example
The following reference example uses placeholder values for all input properties.
var endpointResource = new Volcenginecc.Ark.Endpoint("endpointResource", new()
{
ModelReference = new Volcenginecc.Ark.Inputs.EndpointModelReferenceArgs
{
CustomModelId = "string",
FoundationModel = new Volcenginecc.Ark.Inputs.EndpointModelReferenceFoundationModelArgs
{
ModelVersion = "string",
Name = "string",
},
},
Name = "string",
Description = "string",
ModelUnitId = "string",
Moderation = new Volcenginecc.Ark.Inputs.EndpointModerationArgs
{
Strategy = "string",
},
ProjectName = "string",
RateLimit = new Volcenginecc.Ark.Inputs.EndpointRateLimitArgs
{
Rpm = 0,
Tpm = 0,
},
Tags = new[]
{
new Volcenginecc.Ark.Inputs.EndpointTagArgs
{
Key = "string",
Value = "string",
},
},
});
example, err := ark.NewEndpoint(ctx, "endpointResource", &ark.EndpointArgs{
ModelReference: &ark.EndpointModelReferenceArgs{
CustomModelId: pulumi.String("string"),
FoundationModel: &ark.EndpointModelReferenceFoundationModelArgs{
ModelVersion: pulumi.String("string"),
Name: pulumi.String("string"),
},
},
Name: pulumi.String("string"),
Description: pulumi.String("string"),
ModelUnitId: pulumi.String("string"),
Moderation: &ark.EndpointModerationArgs{
Strategy: pulumi.String("string"),
},
ProjectName: pulumi.String("string"),
RateLimit: &ark.EndpointRateLimitArgs{
Rpm: pulumi.Int(0),
Tpm: pulumi.Int(0),
},
Tags: ark.EndpointTagArray{
&ark.EndpointTagArgs{
Key: pulumi.String("string"),
Value: pulumi.String("string"),
},
},
})
var endpointResource = new Endpoint("endpointResource", EndpointArgs.builder()
.modelReference(EndpointModelReferenceArgs.builder()
.customModelId("string")
.foundationModel(EndpointModelReferenceFoundationModelArgs.builder()
.modelVersion("string")
.name("string")
.build())
.build())
.name("string")
.description("string")
.modelUnitId("string")
.moderation(EndpointModerationArgs.builder()
.strategy("string")
.build())
.projectName("string")
.rateLimit(EndpointRateLimitArgs.builder()
.rpm(0)
.tpm(0)
.build())
.tags(EndpointTagArgs.builder()
.key("string")
.value("string")
.build())
.build());
endpoint_resource = volcenginecc.ark.Endpoint("endpointResource",
model_reference={
"custom_model_id": "string",
"foundation_model": {
"model_version": "string",
"name": "string",
},
},
name="string",
description="string",
model_unit_id="string",
moderation={
"strategy": "string",
},
project_name="string",
rate_limit={
"rpm": 0,
"tpm": 0,
},
tags=[{
"key": "string",
"value": "string",
}])
const endpointResource = new volcenginecc.ark.Endpoint("endpointResource", {
modelReference: {
customModelId: "string",
foundationModel: {
modelVersion: "string",
name: "string",
},
},
name: "string",
description: "string",
modelUnitId: "string",
moderation: {
strategy: "string",
},
projectName: "string",
rateLimit: {
rpm: 0,
tpm: 0,
},
tags: [{
key: "string",
value: "string",
}],
});
type: volcenginecc:ark:Endpoint
properties:
description: string
modelReference:
customModelId: string
foundationModel:
modelVersion: string
name: string
modelUnitId: string
moderation:
strategy: string
name: string
projectName: string
rateLimit:
rpm: 0
tpm: 0
tags:
- key: string
value: string
Endpoint Resource Properties
To learn more about resource properties and how to use them, see Inputs and Outputs in the Architecture and Concepts docs.
Inputs
In Python, inputs that are objects can be passed either as argument classes or as dictionary literals.
The Endpoint resource accepts the following input properties:
- Model
Reference Volcengine.Endpoint Model Reference - 接入点接入模型。
- Name string
- 接入点名称。
- Description string
- 接入点描述。
- Model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- Moderation
Volcengine.
Endpoint Moderation - 内容护栏方案。
- Project
Name string - 资源所属的项目名称,默认值为default。
- Rate
Limit Volcengine.Endpoint Rate Limit - 接入点限流。
- List<Volcengine.
Endpoint Tag>
- Model
Reference EndpointModel Reference Args - 接入点接入模型。
- Name string
- 接入点名称。
- Description string
- 接入点描述。
- Model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- Moderation
Endpoint
Moderation Args - 内容护栏方案。
- Project
Name string - 资源所属的项目名称,默认值为default。
- Rate
Limit EndpointRate Limit Args - 接入点限流。
- []Endpoint
Tag Args
- model
Reference EndpointModel Reference - 接入点接入模型。
- name String
- 接入点名称。
- description String
- 接入点描述。
- model
Unit StringId - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation - 内容护栏方案。
- project
Name String - 资源所属的项目名称,默认值为default。
- rate
Limit EndpointRate Limit - 接入点限流。
- List<Endpoint
Tag>
- model
Reference EndpointModel Reference - 接入点接入模型。
- name string
- 接入点名称。
- description string
- 接入点描述。
- model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation - 内容护栏方案。
- project
Name string - 资源所属的项目名称,默认值为default。
- rate
Limit EndpointRate Limit - 接入点限流。
- Endpoint
Tag[]
- model_
reference EndpointModel Reference Args - 接入点接入模型。
- name str
- 接入点名称。
- description str
- 接入点描述。
- model_
unit_ strid - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation Args - 内容护栏方案。
- project_
name str - 资源所属的项目名称,默认值为default。
- rate_
limit EndpointRate Limit Args - 接入点限流。
- Sequence[Endpoint
Tag Args]
- model
Reference Property Map - 接入点接入模型。
- name String
- 接入点名称。
- description String
- 接入点描述。
- model
Unit StringId - 模型单元,为空表示后付费;否则预付费。
- moderation Property Map
- 内容护栏方案。
- project
Name String - 资源所属的项目名称,默认值为default。
- rate
Limit Property Map - 接入点限流。
- List<Property Map>
Outputs
All input properties are implicitly available as output properties. Additionally, the Endpoint resource produces the following output properties:
- Batch
Only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- Certificate
Volcengine.
Endpoint Certificate - 证书信息。
- Create
Time string - 接入点创建时间,RFC3339格式。
- Endpoint
Id string - 推理接入点的ID。
- Endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- Id string
- The provider-assigned unique ID for this managed resource.
- Rolling
Id string - 接入点切换的Id。
- Scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- Status string
- 接入点状态。
- Status
Reason string - 状态附加说明信息。
- Support
Rolling bool - 是否支持接入点切换模型版本。
- Support
Scale boolTier - 是否支持TPM保障包。
- Update
Time string - 接入点更新时间,RFC3339格式。
- Batch
Only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- Certificate
Endpoint
Certificate - 证书信息。
- Create
Time string - 接入点创建时间,RFC3339格式。
- Endpoint
Id string - 推理接入点的ID。
- Endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- Id string
- The provider-assigned unique ID for this managed resource.
- Rolling
Id string - 接入点切换的Id。
- Scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- Status string
- 接入点状态。
- Status
Reason string - 状态附加说明信息。
- Support
Rolling bool - 是否支持接入点切换模型版本。
- Support
Scale boolTier - 是否支持TPM保障包。
- Update
Time string - 接入点更新时间,RFC3339格式。
- batch
Only Boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate - 证书信息。
- create
Time String - 接入点创建时间,RFC3339格式。
- endpoint
Id String - 推理接入点的ID。
- endpoint
Model StringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- id String
- The provider-assigned unique ID for this managed resource.
- rolling
Id String - 接入点切换的Id。
- scale
Tier StringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status String
- 接入点状态。
- status
Reason String - 状态附加说明信息。
- support
Rolling Boolean - 是否支持接入点切换模型版本。
- support
Scale BooleanTier - 是否支持TPM保障包。
- update
Time String - 接入点更新时间,RFC3339格式。
- batch
Only boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate - 证书信息。
- create
Time string - 接入点创建时间,RFC3339格式。
- endpoint
Id string - 推理接入点的ID。
- endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- id string
- The provider-assigned unique ID for this managed resource.
- rolling
Id string - 接入点切换的Id。
- scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status string
- 接入点状态。
- status
Reason string - 状态附加说明信息。
- support
Rolling boolean - 是否支持接入点切换模型版本。
- support
Scale booleanTier - 是否支持TPM保障包。
- update
Time string - 接入点更新时间,RFC3339格式。
- batch_
only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate - 证书信息。
- create_
time str - 接入点创建时间,RFC3339格式。
- endpoint_
id str - 推理接入点的ID。
- endpoint_
model_ strtype - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- id str
- The provider-assigned unique ID for this managed resource.
- rolling_
id str - 接入点切换的Id。
- scale_
tier_ strid - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status str
- 接入点状态。
- status_
reason str - 状态附加说明信息。
- support_
rolling bool - 是否支持接入点切换模型版本。
- support_
scale_ booltier - 是否支持TPM保障包。
- update_
time str - 接入点更新时间,RFC3339格式。
- batch
Only Boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate Property Map
- 证书信息。
- create
Time String - 接入点创建时间,RFC3339格式。
- endpoint
Id String - 推理接入点的ID。
- endpoint
Model StringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- id String
- The provider-assigned unique ID for this managed resource.
- rolling
Id String - 接入点切换的Id。
- scale
Tier StringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status String
- 接入点状态。
- status
Reason String - 状态附加说明信息。
- support
Rolling Boolean - 是否支持接入点切换模型版本。
- support
Scale BooleanTier - 是否支持TPM保障包。
- update
Time String - 接入点更新时间,RFC3339格式。
Look up Existing Endpoint Resource
Get an existing Endpoint resource’s state with the given name, ID, and optional extra properties used to qualify the lookup.
public static get(name: string, id: Input<ID>, state?: EndpointState, opts?: CustomResourceOptions): Endpoint
@staticmethod
def get(resource_name: str,
id: str,
opts: Optional[ResourceOptions] = None,
batch_only: Optional[bool] = None,
certificate: Optional[EndpointCertificateArgs] = None,
create_time: Optional[str] = None,
description: Optional[str] = None,
endpoint_id: Optional[str] = None,
endpoint_model_type: Optional[str] = None,
model_reference: Optional[EndpointModelReferenceArgs] = None,
model_unit_id: Optional[str] = None,
moderation: Optional[EndpointModerationArgs] = None,
name: Optional[str] = None,
project_name: Optional[str] = None,
rate_limit: Optional[EndpointRateLimitArgs] = None,
rolling_id: Optional[str] = None,
scale_tier_id: Optional[str] = None,
status: Optional[str] = None,
status_reason: Optional[str] = None,
support_rolling: Optional[bool] = None,
support_scale_tier: Optional[bool] = None,
tags: Optional[Sequence[EndpointTagArgs]] = None,
update_time: Optional[str] = None) -> Endpoint
func GetEndpoint(ctx *Context, name string, id IDInput, state *EndpointState, opts ...ResourceOption) (*Endpoint, error)
public static Endpoint Get(string name, Input<string> id, EndpointState? state, CustomResourceOptions? opts = null)
public static Endpoint get(String name, Output<String> id, EndpointState state, CustomResourceOptions options)
resources: _: type: volcenginecc:ark:Endpoint get: id: ${id}
- name
- The unique name of the resulting resource.
- id
- The unique provider ID of the resource to lookup.
- state
- Any extra arguments used during the lookup.
- opts
- A bag of options that control this resource's behavior.
- resource_name
- The unique name of the resulting resource.
- id
- The unique provider ID of the resource to lookup.
- name
- The unique name of the resulting resource.
- id
- The unique provider ID of the resource to lookup.
- state
- Any extra arguments used during the lookup.
- opts
- A bag of options that control this resource's behavior.
- name
- The unique name of the resulting resource.
- id
- The unique provider ID of the resource to lookup.
- state
- Any extra arguments used during the lookup.
- opts
- A bag of options that control this resource's behavior.
- name
- The unique name of the resulting resource.
- id
- The unique provider ID of the resource to lookup.
- state
- Any extra arguments used during the lookup.
- opts
- A bag of options that control this resource's behavior.
- Batch
Only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- Certificate
Volcengine.
Endpoint Certificate - 证书信息。
- Create
Time string - 接入点创建时间,RFC3339格式。
- Description string
- 接入点描述。
- Endpoint
Id string - 推理接入点的ID。
- Endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- Model
Reference Volcengine.Endpoint Model Reference - 接入点接入模型。
- Model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- Moderation
Volcengine.
Endpoint Moderation - 内容护栏方案。
- Name string
- 接入点名称。
- Project
Name string - 资源所属的项目名称,默认值为default。
- Rate
Limit Volcengine.Endpoint Rate Limit - 接入点限流。
- Rolling
Id string - 接入点切换的Id。
- Scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- Status string
- 接入点状态。
- Status
Reason string - 状态附加说明信息。
- Support
Rolling bool - 是否支持接入点切换模型版本。
- Support
Scale boolTier - 是否支持TPM保障包。
- List<Volcengine.
Endpoint Tag> - Update
Time string - 接入点更新时间,RFC3339格式。
- Batch
Only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- Certificate
Endpoint
Certificate Args - 证书信息。
- Create
Time string - 接入点创建时间,RFC3339格式。
- Description string
- 接入点描述。
- Endpoint
Id string - 推理接入点的ID。
- Endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- Model
Reference EndpointModel Reference Args - 接入点接入模型。
- Model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- Moderation
Endpoint
Moderation Args - 内容护栏方案。
- Name string
- 接入点名称。
- Project
Name string - 资源所属的项目名称,默认值为default。
- Rate
Limit EndpointRate Limit Args - 接入点限流。
- Rolling
Id string - 接入点切换的Id。
- Scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- Status string
- 接入点状态。
- Status
Reason string - 状态附加说明信息。
- Support
Rolling bool - 是否支持接入点切换模型版本。
- Support
Scale boolTier - 是否支持TPM保障包。
- []Endpoint
Tag Args - Update
Time string - 接入点更新时间,RFC3339格式。
- batch
Only Boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate - 证书信息。
- create
Time String - 接入点创建时间,RFC3339格式。
- description String
- 接入点描述。
- endpoint
Id String - 推理接入点的ID。
- endpoint
Model StringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- model
Reference EndpointModel Reference - 接入点接入模型。
- model
Unit StringId - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation - 内容护栏方案。
- name String
- 接入点名称。
- project
Name String - 资源所属的项目名称,默认值为default。
- rate
Limit EndpointRate Limit - 接入点限流。
- rolling
Id String - 接入点切换的Id。
- scale
Tier StringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status String
- 接入点状态。
- status
Reason String - 状态附加说明信息。
- support
Rolling Boolean - 是否支持接入点切换模型版本。
- support
Scale BooleanTier - 是否支持TPM保障包。
- List<Endpoint
Tag> - update
Time String - 接入点更新时间,RFC3339格式。
- batch
Only boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate - 证书信息。
- create
Time string - 接入点创建时间,RFC3339格式。
- description string
- 接入点描述。
- endpoint
Id string - 推理接入点的ID。
- endpoint
Model stringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- model
Reference EndpointModel Reference - 接入点接入模型。
- model
Unit stringId - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation - 内容护栏方案。
- name string
- 接入点名称。
- project
Name string - 资源所属的项目名称,默认值为default。
- rate
Limit EndpointRate Limit - 接入点限流。
- rolling
Id string - 接入点切换的Id。
- scale
Tier stringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status string
- 接入点状态。
- status
Reason string - 状态附加说明信息。
- support
Rolling boolean - 是否支持接入点切换模型版本。
- support
Scale booleanTier - 是否支持TPM保障包。
- Endpoint
Tag[] - update
Time string - 接入点更新时间,RFC3339格式。
- batch_
only bool - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate
Endpoint
Certificate Args - 证书信息。
- create_
time str - 接入点创建时间,RFC3339格式。
- description str
- 接入点描述。
- endpoint_
id str - 推理接入点的ID。
- endpoint_
model_ strtype - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- model_
reference EndpointModel Reference Args - 接入点接入模型。
- model_
unit_ strid - 模型单元,为空表示后付费;否则预付费。
- moderation
Endpoint
Moderation Args - 内容护栏方案。
- name str
- 接入点名称。
- project_
name str - 资源所属的项目名称,默认值为default。
- rate_
limit EndpointRate Limit Args - 接入点限流。
- rolling_
id str - 接入点切换的Id。
- scale_
tier_ strid - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status str
- 接入点状态。
- status_
reason str - 状态附加说明信息。
- support_
rolling bool - 是否支持接入点切换模型版本。
- support_
scale_ booltier - 是否支持TPM保障包。
- Sequence[Endpoint
Tag Args] - update_
time str - 接入点更新时间,RFC3339格式。
- batch
Only Boolean - 是否只支持 BatchChat。如果为true,只能访问 Batch 推理接口,否则只能访问在线推理接口。
- certificate Property Map
- 证书信息。
- create
Time String - 接入点创建时间,RFC3339格式。
- description String
- 接入点描述。
- endpoint
Id String - 推理接入点的ID。
- endpoint
Model StringType - 接入点模型类型。取值:FoundationModel为基础模型;CustomModel为定制模型。
- model
Reference Property Map - 接入点接入模型。
- model
Unit StringId - 模型单元,为空表示后付费;否则预付费。
- moderation Property Map
- 内容护栏方案。
- name String
- 接入点名称。
- project
Name String - 资源所属的项目名称,默认值为default。
- rate
Limit Property Map - 接入点限流。
- rolling
Id String - 接入点切换的Id。
- scale
Tier StringId - 如果存在 TPM 保障包,则为 TPM 保障包 ID。
- status String
- 接入点状态。
- status
Reason String - 状态附加说明信息。
- support
Rolling Boolean - 是否支持接入点切换模型版本。
- support
Scale BooleanTier - 是否支持TPM保障包。
- List<Property Map>
- update
Time String - 接入点更新时间,RFC3339格式。
Supporting Types
EndpointCertificate, EndpointCertificateArgs
- Not
After int - X509私有证书过期的时间。使用秒级时间戳表示。
- Not
Before int - X509私有证书开始生效的时间。使用秒级时间戳表示。
- Pca
Host string - 证书方。
- Pca
Instance stringCertificate - PEM 格式的叶子证书。
- Pca
Name string - 证书名称。
- Pca
Root stringCa Certificate - PEM 格式的根证书。
- Pca
Sub stringCa Certificate - PEM 格式的中间根证书和根证书。
- Not
After int - X509私有证书过期的时间。使用秒级时间戳表示。
- Not
Before int - X509私有证书开始生效的时间。使用秒级时间戳表示。
- Pca
Host string - 证书方。
- Pca
Instance stringCertificate - PEM 格式的叶子证书。
- Pca
Name string - 证书名称。
- Pca
Root stringCa Certificate - PEM 格式的根证书。
- Pca
Sub stringCa Certificate - PEM 格式的中间根证书和根证书。
- not
After Integer - X509私有证书过期的时间。使用秒级时间戳表示。
- not
Before Integer - X509私有证书开始生效的时间。使用秒级时间戳表示。
- pca
Host String - 证书方。
- pca
Instance StringCertificate - PEM 格式的叶子证书。
- pca
Name String - 证书名称。
- pca
Root StringCa Certificate - PEM 格式的根证书。
- pca
Sub StringCa Certificate - PEM 格式的中间根证书和根证书。
- not
After number - X509私有证书过期的时间。使用秒级时间戳表示。
- not
Before number - X509私有证书开始生效的时间。使用秒级时间戳表示。
- pca
Host string - 证书方。
- pca
Instance stringCertificate - PEM 格式的叶子证书。
- pca
Name string - 证书名称。
- pca
Root stringCa Certificate - PEM 格式的根证书。
- pca
Sub stringCa Certificate - PEM 格式的中间根证书和根证书。
- not_
after int - X509私有证书过期的时间。使用秒级时间戳表示。
- not_
before int - X509私有证书开始生效的时间。使用秒级时间戳表示。
- pca_
host str - 证书方。
- pca_
instance_ strcertificate - PEM 格式的叶子证书。
- pca_
name str - 证书名称。
- pca_
root_ strca_ certificate - PEM 格式的根证书。
- pca_
sub_ strca_ certificate - PEM 格式的中间根证书和根证书。
- not
After Number - X509私有证书过期的时间。使用秒级时间戳表示。
- not
Before Number - X509私有证书开始生效的时间。使用秒级时间戳表示。
- pca
Host String - 证书方。
- pca
Instance StringCertificate - PEM 格式的叶子证书。
- pca
Name String - 证书名称。
- pca
Root StringCa Certificate - PEM 格式的根证书。
- pca
Sub StringCa Certificate - PEM 格式的中间根证书和根证书。
EndpointModelReference, EndpointModelReferenceArgs
- Custom
Model stringId - 定制模型的ID。
- Foundation
Model Volcengine.Endpoint Model Reference Foundation Model - 基础模型。
- Custom
Model stringId - 定制模型的ID。
- Foundation
Model EndpointModel Reference Foundation Model - 基础模型。
- custom
Model StringId - 定制模型的ID。
- foundation
Model EndpointModel Reference Foundation Model - 基础模型。
- custom
Model stringId - 定制模型的ID。
- foundation
Model EndpointModel Reference Foundation Model - 基础模型。
- custom_
model_ strid - 定制模型的ID。
- foundation_
model EndpointModel Reference Foundation Model - 基础模型。
- custom
Model StringId - 定制模型的ID。
- foundation
Model Property Map - 基础模型。
EndpointModelReferenceFoundationModel, EndpointModelReferenceFoundationModelArgs
- Model
Version string - 基础模型版本。
- Name string
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
- Model
Version string - 基础模型版本。
- Name string
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
- model
Version String - 基础模型版本。
- name String
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
- model
Version string - 基础模型版本。
- name string
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
- model_
version str - 基础模型版本。
- name str
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
- model
Version String - 基础模型版本。
- name String
- 基础模型名称。请注意模型名称为小写。doubao 1.5 代模型的模型名称格式为"doubao-1-5-**"。
EndpointModeration, EndpointModerationArgs
- Strategy string
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
- Strategy string
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
- strategy String
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
- strategy string
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
- strategy str
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
- strategy String
- 内容安全护栏方案。取值:Default: 默认方案。更低延迟,广泛覆盖内容安全通用需求;Basic:基本方案(公测中)。支持在接口响应中提供命中的风险分类,暂时只包含严重违规和激进行为两类风险。注意:如果是流式接口调用,不建议此方案,会导致吐出的每个分片的长度变长,延时变高。
EndpointRateLimit, EndpointRateLimitArgs
EndpointTag, EndpointTagArgs
Import
$ pulumi import volcenginecc:ark/endpoint:Endpoint example "endpoint_id"
To learn more about importing existing cloud resources, see Importing resources.
Package Details
- Repository
- volcenginecc volcengine/pulumi-volcenginecc
- License
- MPL-2.0
- Notes
- This Pulumi package is based on the
volcenginecc
Terraform Provider.