45 lines
848 B
Markdown
45 lines
848 B
Markdown
# Modello RKNN di produzione
|
|
|
|
## File
|
|
|
|
`bert-pair-v2-eager-fp16.rknn`
|
|
|
|
## Compatibilità verificata
|
|
|
|
- SoC: Rockchip RK3588
|
|
- acceleratore: RKNPU v2
|
|
- RKNN Toolkit2: 2.3.2
|
|
- RKNN Runtime: 2.3.2
|
|
- driver NPU: 0.9.8
|
|
- modello RKNN: versione 6
|
|
- precisione: FP16
|
|
- forma statica: 128 token
|
|
|
|
## Input
|
|
|
|
- `input_ids`: INT64 `[1,128]`
|
|
- `attention_mask`: INT64 `[1,128]`
|
|
- `token_type_ids`: INT64 `[1,128]`
|
|
|
|
## Output
|
|
|
|
- logits: `[1,2]`
|
|
- classe 0: preferenza per il testo originale
|
|
- classe 1: preferenza per la proposta
|
|
|
|
## Parametri della pipeline
|
|
|
|
- soglia automatica: `0.999`
|
|
- margine minimo: `0.002`
|
|
- finestra locale: 120 caratteri per lato
|
|
- latenza media: circa 84 ms su RK3588
|
|
|
|
## Tokenizer
|
|
|
|
`assets/tokenizer/tokenizer.json`
|
|
|
|
## Verifica integrità
|
|
|
|
Eseguire dalla radice del repository:
|
|
|
|
sha256sum -c rknn/bert-pair-v2-eager-fp16.sha256
|