| .. | ||
| bert-pair-v2-eager-fp16.rknn | ||
| bert-pair-v2-eager-fp16.sha256 | ||
| README.md | ||
Modello RKNN di produzione
File
bert-pair-v2-eager-fp16.rknn
Compatibilità verificata
- SoC: Rockchip RK3588
- acceleratore: RKNPU v2
- RKNN Toolkit2: 2.3.2
- RKNN Runtime: 2.3.2
- driver NPU: 0.9.8
- modello RKNN: versione 6
- precisione: FP16
- forma statica: 128 token
Input
input_ids: INT64[1,128]attention_mask: INT64[1,128]token_type_ids: INT64[1,128]
Output
- logits:
[1,2] - classe 0: preferenza per il testo originale
- classe 1: preferenza per la proposta
Parametri della pipeline
- soglia automatica:
0.999 - margine minimo:
0.002 - finestra locale: 120 caratteri per lato
- latenza media: circa 84 ms su RK3588
Tokenizer
assets/tokenizer/tokenizer.json
Verifica integrità
Eseguire dalla radice del repository:
sha256sum -c rknn/bert-pair-v2-eager-fp16.sha256