start.sh 1.34 KB
Newer Older
kihoon.lee's avatar
update  
kihoon.lee committed
1
2
3
#!/bin/bash

# 변수 설정
Liky98's avatar
Liky98 committed
4
5
6
7
8
9
huggingface-cli login --token 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 #hf key 입력해주세요.
API_KEY="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" #openai api key 입력해주세요.

MODEL="LDCC/Chat-Qwen2.5-14B-32k" #허깅페이스 모델 
GPU_DEVICES=0 # 사용할 GPU 번호
MODEL_LEN=32000 
kihoon.lee's avatar
update  
kihoon.lee committed
10
11
12
13
14
15
16

# 아래부터는 안건드려도 됩니다.
OUTPUT_DIR="generated/$MODEL"
EVAL_DIR="evaluated/$MODEL"
JUDGE_MODEL="gpt-4o" 

# 생성 스크립트 실행
Liky98's avatar
Liky98 committed
17
18
python generator.py --model $MODEL --gpu_devices $GPU_DEVICES --model_len $MODEL_LEN
python lotte-generator.py --model $MODEL --gpu_devices $GPU_DEVICES --model_len $MODEL_LEN
kihoon.lee's avatar
update  
kihoon.lee committed
19
20

# 평가 스크립트 실행
Liky98's avatar
Liky98 committed
21
22
python evaluator.py -o $OUTPUT_DIR -m $MODEL -k $API_KEY -t 30 -j $JUDGE_MODEL
python lotte-evaluator.py -o $OUTPUT_DIR -m $MODEL -k $API_KEY -t 30 -j $JUDGE_MODEL
kihoon.lee's avatar
update  
kihoon.lee committed
23
24

# 점수 계산 스크립트 실행
Liky98's avatar
Liky98 committed
25
26
27
28
python score.py -p "$EVAL_DIR/default.jsonl"
python score.py -p "$EVAL_DIR/1-shot.jsonl"
python score.py -p "$EVAL_DIR/cot-1-shot.jsonl"
python lotte-score.py -p "$EVAL_DIR/lotte_single_turn.jsonl"
kihoon.lee's avatar
update  
kihoon.lee committed
29
30

# 점수 결합 스크립트 실행 
Liky98's avatar
Liky98 committed
31
python combine_scores.py -i "$EVAL_DIR" -o "$EVAL_DIR/combined_scores.xlsx"
김강열's avatar
김강열 committed
32
33

# 한 엑셀파일에 평가 결과를 종합시킨다. 
Liky98's avatar
Liky98 committed
34
python merge_results.py
김강열's avatar
김강열 committed
35
echo "merged_scores.xlsx에 결과가 병합되어 저장되었습니다."