start-onlylotte.sh 1.04 KB
Newer Older
Liky98's avatar
Liky98 committed
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
#!/bin/bash

# 변수 설정
huggingface-cli login --token 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 #hf key 입력해주세요.
API_KEY="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" #openai api key 입력해주세요.

MODEL="LDCC/Chat-Qwen2.5-14B-32k" #허깅페이스 모델 
GPU_DEVICES=0 # 사용할 GPU 번호
MODEL_LEN=32000 

# 아래부터는 안건드려도 됩니다.
OUTPUT_DIR="generated/$MODEL"
EVAL_DIR="evaluated/$MODEL"
JUDGE_MODEL="gpt-4o" 

# 생성 스크립트 실행
python lotte-generator.py --model $MODEL --gpu_devices $GPU_DEVICES --model_len $MODEL_LEN

# 평가 스크립트 실행
python lotte-evaluator.py -o $OUTPUT_DIR -m $MODEL -k $API_KEY -t 30 -j $JUDGE_MODEL

# 점수 계산 스크립트 실행
python lotte-score.py -p "$EVAL_DIR/lotte_single_turn.jsonl"

# 점수 결합 스크립트 실행 
python combine_scores.py -i "$EVAL_DIR" -o "$EVAL_DIR/combined_scores.xlsx"

# 한 엑셀파일에 평가 결과를 종합시킨다. 
python merge_results.py
echo "merged_scores.xlsx에 결과가 병합되어 저장되었습니다."