OpenAI GPT API에서 입력 텍스트가 너무 길어 발생하는 오류 메시지 해결 방법: 긴 입력값 처리, API 사용법, GPT-4o-mini 모델 활용, API Key 발급 및 토큰 길이 확인 방법까지 자세히 설명
api로 openAI ai 모델 돌리기
OpenAI의 GPT를 사용하다 보면 다음과 같은 오류 메시지(
The message you submitted was too long, please submit something shorter. )
를 만나는 경우가 있습니다:
이 오류는 입력 텍스트가 모델이 처리할 수 있는 최대 토큰 수를 초과했을 때 발생합니다.
입력값이 지나치게 길다면 API를 사용해도 안될 수 있지만, 파이썬 코드를 다룰 줄 안다면 시도해 봄직합니다.
우선 코드는 아래와 같습니다.
contents = """
{긴 입력값을 가진 텍스트}
"""
import openai
client = openai.OpenAI(api_key="{my api key") # api key 입력
response = client.chat.completions.create(
model="gpt-4o-mini", #gpt-4o-mini 모델을 사용합니다.
messages=[
{"role": "system", "content": "You are a helpful assistants."},
{"role": "user", "content": f"""
{content}
위 입력값을 요약해줘 !
"""}
]
)
print(response.choices[0].message.content)
api_key 획득 방법
만약, api_key를 가지고 있지 않다면 과정을 통해 얻을 수 있습니다.
1. https://auth.openai.com/log-in 접속
2. 로그인
3. 상단 네비게이션 바 우측 Dashboard 클릭
4. 왼쪽 네비게이션 바 API keys 클릭
5. 가운데 Create new secrete key 클릭
6. 발급단은 키를 아래 코드에서 {my api key} 부분에 입력
client = openai.OpenAI(api_key="{my api key") # api key 입력
참고 : 입력 텍스트 량 토큰 크기로 확인해보기
OpenAI API에서 사용하는 토큰(token) 길이를 확인하려면, OpenAI에서 제공하는 tiktoken이라는 Python 패키지를 사용할 수 있습니다. 이 패키지는 OpenAI 모델에 따라 텍스트가 얼마나 많은 토큰으로 분할되는지를 계산해줍니다.
import tiktoken
# 예: GPT-4 모델의 tokenizer 불러오기
encoding = tiktoken.encoding_for_model("gpt-4o-mini")
text = "안녕하세요, OpenAI API를 사용하고 있습니다."
# 토큰화
tokens = encoding.encode(text)
print("토큰 개수:", len(tokens))
print("토큰 목록:", tokens)
이처럼 웹 GPT에서 발생하는 입력 길이 초과 문제는 API를 이용하고, 토큰 단위를 이해하여 적절한 처리를 통해 충분히 해결할 수 있습니다.
댓글