ChatGPT API와 Plugins에 대해서 찾아보았습니다. Plugins의 형태와 비슷하게 제공되는 Chrome extension을 간단하게 사용해보고 어떤 목적으로 사용되는지 확인해봅시다.
목차
들어가며
ChatGPT API란?
ChatGPT Plugins이란?
ChatGPT Plugins 신청하기
ChatGPT Plugins 형태로 맛보기
들어가며
OpenAI가 만든 ChatGPT가 월간 사용자 1억명을 넘겼습니다. 2022년 11월 30일에 출시하고 얼마 지나지 않은 2023년 3월에 ChatGPT API를 선보였습니다. 앞서 AI 모델들은 대부분 기술 논문을 공개했지만, 초거대모델로 넘어오면서 기업 간의 기술 영업 비밀 및 악용될 소지로 인해 공개하지 않고 있는데요. 최근 ChatGPT 관련된 자료를 찾아보고 사용해보면서 놀라움을 감추지 못하고 있습니다.
ChatGPT API란?
OpenAI가 서비스한 ChatGPT API와 더불어 ChatGPT Third-party Plugins을 공개했습니다. 우선 ChatGPT API부터 우리 한 번 천천히 알아보도록 할까요?
“백문이 불여일견(百聞不如一見)”이라고 직접 한 번 써봅시다. 사용방법은 다음 순서대로 진행했습니다.
1. ChatGPT API 회원가입 및 로그인
2. API Key 발급
3. editor에 API 코드 넣어서 확인하기
 |
위 이미지에 있는 주소로 들어가서 회원가입 및 로그인을 해주세요. 구글 계정이 있다면 구글 계정으로 접속해봅시다. 그러면 다음과 같은 화면이 나오게 됩니다.
API Key 발급
 |
API를 사용하기 위해서는 API Key 발급이 필요합니다.
우측상단의 아이콘을 클릭해서 “View API keys”를 클릭해줍니다.
 |
API Keys에서 “Create new secret key를 눌러줍니다. 누르는 즉시 API Key가 생성되어 창이 생성됩니다.
 |
다음과 같이 발급된 Key가 나오게 됩니다. 화면에 나타난 Key는 별도로 개인메모장에 저장하여 보관하고 이것을 복사해줍니다. 오른쪽에 있는 초록색 버튼을 마우스로 클릭하면 복사됩니다. 이 key 정보는 자신 외에 다른 사람에게 공개해서는 안되는 정보 입니다.
editor에 API 코드 넣어서 확인하기
이제 API를 활용하여 ChatGPT가 제대로 응답을 하는지 확인할 차례입니다. 먼저 OpenAI를 설치해줍니다. 이 과정에서 Google Colab을 사용하였습니다.
!pip install openai
아래 코드를 붙여 넣어서 사용해보세요!
import os import openai openai.api_key = "input API Key" # 발급받은 API Key를 큰따옴표안에("") 입력하세요. messages = [] user_contents = input("user : ") # 내가 ChatGPT에게 물어볼 내용을 적는곳입니다. messages.append({"role": "user", "content": f"{user_contents}"}) # 모델을 변경해보세요. gpt-3.5-turbo 모델을 사용하겠습니다. # 18달러까지 무료로 사용할 수 있습니다. completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=messages) assistant_contents = completion.choices[0].message["content"].strip() messages.append({"role": "user", "content": f"{assistant_contents}"}) print(f"GPT : {assistant_contents}")
 |
발급받은 API Key를 넣고 모델을 선정한 뒤 코드를 실행해봅시다.
VSCode나 기타 다른 editor를 쓰셔도 무방합니다. 무료 크레딧이 18달러가 있어서 비교적 저렴하게 책정된 모델인 gpt3.5를 사용했습니다. 모델별 이용가격은 아래 참고를 확인해주세요.
USER : 안녕 친구야, 너에 대해 소개해줘
GPT : 안녕! 나는 인공지능 챗봇이야, 나는 사용자의 질문과 요구에 대해 자연어로 대화하며 최대한 … (생략)
가볍게 인사를 했더니 답변을 해주네요.
어떤가요? 이 API를 내가 만들고 싶은 제품에 가져다가 붙여서 본인이 원하는 목적에 맞게 사용할 수 있습니다.
유료로 비용을 지급하면 Fine-tuning으로 모델을 학습시켜 사용할 수 있습니다.
Fine-tuning이란 기존에 학습되어 있는 모델을 기반으로 내가 사용하려는 목적에 알맞도록 변형하여 이미 학습된 weights(가중치)에 학습을 업데이트하는 것입니다.(이번 내용에서는 Fine-tuning을 다루지 않습니다.)
“음? 내가 원하는 목적으로 학습을 시킬 수 있다구요?”
“네 맞습니다.”
“그리고 학습시킨 모델을 제품으로 출시할 수 있고 플러그인으로 만들어서 활용할 수 있습니다.”
“네? 플러그인이요?”
네 그렇습니다. 왜 플러그인이냐구요? 저는 크롬 확장 프로그램이 먼저 생각이 났었는데요.”이거나 저거나 비슷하네”라고 생각했습니다.
이유가 어찌되었던 그럼 이제 플러그인에 대해서 알아보러 떠나봅시다~!
ChatGPT Plugins이란?
 |
플러그인(Plugin)이란 주로 기존 프로그램 즉, 서비스하는 제품에서 추가 기능을 넣어 확장할 때 사용되는 것을 예로 들 수 있습니다.
크롬 확장 프로그램을 사용해보셨나요? 플러그인과 같은 개념이라고 보시면 되는데요. 기존의 크롬 브라우저에서 추가로 기능을 추가하여 사용할 수 있는 것을 말합니다.
제가 주로 사용하는 확장 프로그램은 구글번역기, 어도비 PDF 리더기, 유튜브 자막 생성기, VPN을 사용하고 있습니다.(여러분도 한 번 확인해보세요! 알게 모르게 사용하고 있을 수 있답니다.
ChatGPT Plugins은 크롬 확장 프로그램과 비슷하게 ChatGPT를 활용하여 목적에 맞게 다양하게 사용할 수 있다고 이야기해주고 있으며 대표적으로 어떻게 적용할 수 있는지 예시로써 간단하게 설명해줍니다.
 |
Openai Chatgpt plugins 공식 홈페이지에서는 대표적으로 크게 4가지를 설명하고 있는데요. 다음과 같습니다.
1. Browsing
2. Code intetpreter
3. Retrieval
4. Third-party plugins
Browsing
보통은 웹(web)에서 키워드나 문장을 입력하여 원하는 정보를 얻어내곤 하는데요. 이제는 ChatGPT에서 검색을 하면 실시간 정보들을 얻어낼 수 있게될 예정입니다.
불과 초거대 모델이 나오기 전에는 자연어를 인지하는 능력이 많이 부족하여 원하는 의도를 파악해내지 못했는데요. 이러한 문제가 해결되면서 가능해졌습니다.
관련 영상에서 설명하는 바로는 Bing API를 활용해서 쉽게 접근 및 응답을 할 수 있도록 제공해준다고 합니다. Bing의 점유율이 높아지면서 이제 Google의 검색창을 사용하지 않을 수 있겠군요.
Code intetpreter
ChatGPT에는 많은 양의 Python code가 학습되어 있다는 사실을 아시나요? Python을 사용하는 유저들이 많아지면서 오픈소스로 공개된 코드가 web상에 많이 있기 때문입니다.
지금도 수많은 회사에서 ChatGPT나 Copilot을 보조로 활용하여 코드를 작성하는 개발자들이 많은 것으로 알고 있습니다. 아쉽게도 Technical Report와 관련 자료를 찾아보면 수학적인 계산능력과 수학 문제 해결에는 약세를 보이고 있습니다. 지금 공개된 자료를 보면 조만간 해결이 될 것으로 사료됩니다.
Retrieval
회사 혹은 조직 단위의 정보에 접근할 수 있도록 제공한다고 합니다. 이미 마이크로소프트에서 엑셀이나 파워포인트 등의 문서툴을 ChatGPT를 활용할 수 있도록 프롬프트 명령어로 만들 수 있게 착수 한 것으로 알고 있는데요. 이것을 쉽게 접근하여 불러오고 찾을 수 있도록 하는 서비스까지 이어지는게 아닌가 싶습니다.
Third-party plugins
대망의 서드파티 플러그인입니다.
현재 ChatGPT에서 사용할 수 있는 GPT-4의 Technical Report를 찾아보면 놀라운 사실이 하나 있는데요. “인간처럼 흉내”낼 수 있다고 합니다. 링크로 들어가서 “6분14초”를 확인해보시면 ChatGPT를 사람과 유사하게 행동하도록 설정할 수 있다고 하는데요.
이를 이용해 식당 예약, 생필품 및 의류 구매, 여행사 예약 등을 ChatGPT에게 명령할 수 있습니다. 이것을 플러그인의 형태로 제공하여 기존에는 여러 플랫폼을 거쳐 수행해야 할 작업들을 ChatGPT 하나로 할 수 있도록 하게 하는 것입니다.
예를 들면 2박 3일 제주도 배낭 여행을 간다고 가정을 해봅시다.
항공권 예약을 위해 비행기 표를 구입하고 식당과 숙소를 예약한다고 한다면 각기 다른 플랫폼을 사용해서 직접 예약하고 계획을 세워야하는데 이 과정을 ChatGPT(하나의 플랫폼)를 통해서 전부 할 수 있게 됩니다.
이미 여러분도 다 알고 있는 챗봇과 AI 스피커에 들어가는 음성인식 기술인 STT(Speech To Text)와 TTS(Text To Speech) 기술은 상용화 되어 있기 때문에 ChatGPT에 붙게 된다면 신세계를 경험할 수 있을 것 같습니다.
 |
Chatgpt Plugins을 사용하기 위해서는 별도의 신청이 필요합니다. 아쉽게도 아직 사용할 수 없습니다.
우선 미리 신청을 해봅시다.
Join plugins waitlist를 누릅니다.
 |
저는 교육에 활용할 목적으로 사용하고 싶다고 신청하였습니다. 신청하면 대기자 명단 등록이 되어 신청한 메일로 연락이 옵니다.
아직 사용할 수 없어서 너무 아쉽지만 살짝 찍먹하러 한 번 가보실까요?
ChatGPT Plugins 형태로 맛보기
이번에는 크롬 확장 프로그램(Extension)을 활용하여 플러그인을 살짝 맛보도록 해봅시다.
 |
Chrome web store에서 ChatGPT를 입력해보면 다양한 플러그인을 활용할 수 있습니다. 여기서 대표적으로 3가지 정도 사용해보려고 합니다.
1. ChatGPT for Google
2. ChatGPT AIPRM
3. ChatGPT Writer ai
ChatGPT for Google
 |
워드프레스로 글을 쓸 때 HTML을 사용하게 되면서 ChatGPT for Google을 크롬 확장 프로그램으로 추가해서 자주 잊어먹는 HTML Tag를 검색해서 사용하고 있으며 이 밖에 맞춤법을 확인할 때도 활용하고 있습니다.
ChatGPT AIPRM
 |
 짧은 소설을 쓰는 ChatGPT |
 |
AIPRM은 유저 본인이 사용할 목적에 맞게 셋팅한 ChatGPT 플랫폼을 공개하였습니다.
Top View에 있는 대표적인 템플릿을 확인해보면 SEO와 관련된 템플릿과 Youtube 스크립트 작성, 컨텐츠 관리, 미드저니 프롬프트 만들기, 기사 작성, 창작용 글쓰기 등을 제공하며 활용해보고 싶은 템플릿을 선택하여 목적에 맞게 질문을 하면 어느정도 괜찮은 답변을 말해줍니다. 여기서 “짧은 소설을 써주는 ChatGPT”와 “인간답게 말하는 ChaGPT”를 사용해보았습니다.
소설은 요약해서 잘 써주는 것 같지만 인간답게 말을 하는지는 잘 모르겠군요.
(여러분도 한 번 AIPRM을 통해 조금 더 많은 대화를 나누어보시죠)
ChatGPT Writer ai
 |
이번에는 ChatGPT Writer ai입니다. 메일을 받았을 때 사람이 메일과 관련된 내용을 파악하여 답변할 때 템플릿을 ChatGPT에게 대신 프롬프트로 요구하면 양식 초안을 만들어주는 용도로 제작된 것 같습니다.
간단하게 AI 교육을 홍보하는 메일을 요구했더니 어느정도 홍보에 필요한 흐름으로 문맥을 작성해주었습니다.
요약
크롬 확장 프로그램에 있는 플러그인들은 ChatGPT API를 통해 Fine Tuning하거나 서비스 되고 있는 “ChatGPT를 일일이 학습”시켜 사용될 수 있다는 것을 알 수 있었습니다. 또한 ChatGPT를 어떤 목적에 맞게 학습시키냐에 따라 활용성과 다양성이 무궁무진함을 알 수 있었습니다.
지금은 개별적인 플러그인을 사용하여 보조적인 수단처럼 사용하고 있지만 향후 이것들을 하나로 통합하여 서비스하거나 개인이나 집단이 기존 서비스 혹은 새로운 서비스를 만들 때 활용한다면 ChatGPT를 통해 복잡한 방식을 간소화할 수 있을 것이라 생각이 들었습니다.
ChatGPT 플러그인
ChatGPT에서 플러그인에 대한 초기 지원을 구현했습니다. 플러그인은 안전을 핵심 원칙으로 하는 언어 모델을 위해 특별히 설계된 도구이며 ChatGPT가 최신 정보에 액세스하거나 계산을 실행하거나 타사 서비스를 사용할 수 있도록 도와줍니다.
우리 의 반복적인 배포 철학 에 따라 우리는 ChatGPT에서 플러그인을 점진적으로 출시하여 실제 사용, 영향, 안전 및 정렬 문제를 연구할 수 있습니다. .
사용자는 ChatGPT를 출시한 이후로 플러그인을 요청해 왔으며 많은 개발자가 유사한 아이디어를 실험하고 있습니다 . 우리는 소수의 사용자로 시작하여 더 많은 것을 알게 됨에 따라 점진적으로 더 큰 규모의 액세스를 출시할 계획입니다(플러그인 개발자, ChatGPT 사용자 및 알파 기간 이후 플러그인을 제품에 통합하려는 API 사용자). ). 우리는 인간-AI 상호 작용 패러다임의 미래를 형성하는 커뮤니티를 구축하게 되어 기쁩니다.
대기자 명단에서 제외된 플러그인 개발자는 문서를 사용하여 ChatGPT용 플러그인을 빌드할 수 있습니다. 그런 다음 언어 모델에 표시되는 프롬프트에 활성화된 플러그인을 나열하고 모델에 각 사용 방법을 지시하는 문서를 나열합니다. 첫 번째 플러그인은 Expedia , FiscalNote , Instacart , KAYAK , Klarna , Milo , OpenTable , Shopify , Slack , Speak , Wolfram 및 Zapier 에서 만들었습니다 .
또한 웹 브라우저 와 코드 인터프리터 라는 두 가지 플러그인을 자체적으로 호스팅하고 있습니다 . 우리는 또한 지식창고 검색 플러그인 의 코드를 오픈 소스로 제공하여 ChatGPT를 보강하려는 모든 개발자가 정보를 자체 호스팅할 수 있도록 했습니다.
오늘 우리는 대기자 명단 에 있는 사용자와 개발자에게 플러그인 알파 액세스를 확장할 것입니다 . 처음에는 소수의 개발자와 ChatGPT Plus 사용자에게 우선순위를 두지만 시간이 지남에 따라 더 큰 규모의 액세스를 제공할 계획입니다.
개요
오늘날 언어 모델은 다양한 작업에 유용하지만 여전히 제한적입니다. 그들이 배울 수 있는 유일한 정보는 훈련 데이터입니다. 이 정보는 최신 정보가 아닐 수 있으며 모든 애플리케이션에 적용할 수 있습니다. 게다가 언어 모델이 기본적으로 할 수 있는 유일한 것은 텍스트를 내보내는 것입니다. 이 텍스트에는 유용한 지침이 포함될 수 있지만 이러한 지침을 실제로 따르려면 다른 프로세스가 필요합니다.
완벽한 유추는 아니지만 플러그인은 언어 모델의 "눈과 귀"가 될 수 있으므로 교육 데이터에 포함하기에는 너무 최근이거나 너무 개인적이거나 너무 구체적인 정보에 액세스할 수 있습니다. 사용자의 명시적인 요청에 대한 응답으로 플러그인은 언어 모델이 대신 안전하고 제한된 작업을 수행하도록 하여 시스템 전체의 유용성을 높일 수 있습니다.
우리는 응용 프로그램이 AI 대면 인터페이스를 노출하는 방식을 통합하기 위해 개방형 표준이 등장할 것으로 기대합니다. 우리는 그러한 표준이 어떻게 생겼는지에 대한 초기 시도에 노력하고 있으며 우리와 함께 구축하는 데 관심이 있는 개발자의 피드백을 찾고 있습니다.
오늘 우리는 ChatGPT Plus 구독자를 시작으로 ChatGPT 사용자를 위한 초기 협력자의 기존 플러그인을 점진적으로 활성화하기 시작했습니다. 또한 개발자가 ChatGPT용 플러그인을 직접 만들 수 있는 기능을 출시하기 시작했습니다.
향후 몇 달 동안 배포를 통해 배우고 안전 시스템을 지속적으로 개선하면서 이 프로토콜을 반복하고 OpenAI 모델을 사용하는 개발자가 ChatGPT를 넘어 자체 애플리케이션에 플러그인을 통합할 수 있도록 할 계획입니다.
안전 및 광범위한 의미
언어 모델을 외부 도구에 연결하면 새로운 기회와 중요한 위험이 동시에 발생합니다 .
플러그인은 대규모 언어 모델과 관련된 다양한 문제를 해결할 수 있는 잠재력을 제공합니다. 여기에는 "환각", 최신 이벤트 확인, 독점 정보 소스 액세스(허가 하에) 등이 포함됩니다. 온라인 최신 정보, 코드 기반 계산 또는 맞춤형 플러그인 검색 정보와 같은 외부 데이터에 대한 명시적 액세스를 통합함으로써 언어 모델은 증거 기반 참조로 응답을 강화할 수 있습니다.
이러한 참조는 모델의 유용성을 향상시킬 뿐만 아니라 사용자가 모델 출력의 신뢰성을 평가하고 정확도를 다시 확인하여 최근 GPT-4 시스템 카드에서 논의된 과도한 의존과 관련된 위험을 잠재적으로 완화할 수 있도록 합니다 . 마지막으로, 플러그인의 가치는 제품 카탈로그 탐색에서 항공편 예약 또는 음식 주문에 이르기까지 다양한 새로운 사용 사례로 사용자를 지원함으로써 기존 제한 사항을 해결하는 것 이상일 수 있습니다.
동시에 플러그인은 해롭거나 의도하지 않은 행동을 취함으로써 안전 문제를 증가시킬 수 있는 위험이 있으며, 다른 사람을 속이거나 오도하거나 남용하는 나쁜 행위자의 능력을 증가시킵니다. 가능한 응용 프로그램의 범위를 늘림으로써 플러그인은 새 도메인에서 모델이 취한 잘못되거나 잘못 조정된 작업으로 인해 부정적인 결과의 위험을 높일 수 있습니다. 첫날부터 이러한 요소는 플러그인 플랫폼의 개발을 안내했으며 몇 가지 안전 장치를 구현했습니다.
첫날부터 이러한 요소는 플러그인 플랫폼의 개발을 안내했으며 몇 가지 안전 장치를 구현했습니다.
우리는 내부 및 외부 협력자와 함께 레드 팀 구성 연습을 수행하여 가능한 여러 시나리오를 공개했습니다. 예를 들어, Red Teamer는 안전 장치 없이 출시된 경우 플러그인이 정교한 프롬프트 주입을 수행하고, 사기 및 스팸 이메일을 보내거나, 안전 제한을 우회하거나, 플러그인으로 전송된 정보를 오용하는 방법을 발견했습니다. 우리는 이러한 결과를 사용하여 위험한 플러그인 동작을 제한하고 플러그인이 사용자 경험의 일부로 작동하는 방법과 시기에 대한 투명성을 개선하는 설계 안전 완화를 알리고 있습니다. 또한 이러한 조사 결과를 사용하여 플러그인에 대한 액세스 권한을 점진적으로 배포하기로 결정했습니다.
이 분야의 안전 위험 또는 완화를 연구하는 데 관심이 있는 연구원이라면 연구원 액세스 프로그램을 사용하는 것이 좋습니다 . 또한 최근 오픈 소스인 Evals 프레임워크 의 일부로 플러그인 관련 안전 및 기능 평가를 제출하도록 개발자와 연구원을 초대합니다 .
플러그인은 광범위한 사회적 영향을 미칠 가능성이 높습니다. 예를 들어, 우리는 최근 도구에 접근할 수 있는 언어 모델이 그렇지 않은 언어 모델보다 훨씬 더 큰 경제적 영향을 미칠 가능성이 있다는 연구 보고서를 발표했으며, 보다 일반적으로 다른 연구자들의 연구 결과에 따라 현재 AI 기술의 물결은 일자리 변화, 대체 및 창출 속도에 큰 영향을 미칩니다. 우리는 이러한 영향을 연구하기 위해 외부 연구원 및 고객 과 협력하기를 열망합니다 .
브라우징
알파과거 작업(자체 WebGPT 및 GopherCite , BlenderBot2 , LaMDA2 및 기타 )에 동기를 부여하여 언어 모델이 인터넷에서 정보를 읽을 수 있도록 허용하여 토론할 수 있는 콘텐츠의 양을 엄격하게 확장하여 교육 코퍼스를 넘어 새로운 정보로 이동합니다. 현재.
다음은 브라우징이 ChatGPT 사용자에게 열리는 경험의 예입니다. 이전에는 학습 데이터에 응답할 수 있는 충분한 정보가 포함되어 있지 않다고 모델이 정중하게 지적했을 것입니다. ChatGPT가 최신 오스카상에 대한 최신 정보를 검색한 다음 이제는 친숙한 ChatGPT 시 위업을 수행하는 이 예는 탐색이 부가적인 경험이 될 수 있는 한 가지 방법입니다.
최종 사용자에게 명백한 유용성을 제공하는 것 외에도 언어 및 채팅 모델을 사용하여 철저하고 해석 가능한 연구를 수행하면 확장 가능한 정렬 에 대한 흥미로운 전망이 있다고 생각합니다 .
안전 고려 사항
우리는 웹 브라우저에 대한 언어 모델 액세스를 제공하는 웹 브라우징 플러그인을 만들었습니다. 그 디자인은 안전과 웹의 좋은 시민으로서의 운영을 우선시했습니다. 플러그인의 텍스트 기반 웹 브라우저는 GET 요청을 만드는 것으로 제한되어 특정 클래스의 안전 위험을 줄입니다(제거하지는 않음). 이것은 브라우징 플러그인이 정보 검색에 유용하도록 범위를 지정하지만 보안 및 안전 문제에 대해 더 많은 노출 영역이 있는 양식 제출과 같은 "트랜잭션" 작업은 제외합니다.
브라우징은 Bing 검색 API를 사용하여 웹에서 콘텐츠를 검색합니다. 결과적으로 Microsoft는 (1) 정보의 신뢰성과 진실성 및 (2) 문제가 있는 콘텐츠의 검색을 방지하기 위한 "안전 모드"에 대한 Microsoft의 실질적인 작업을 물려받습니다. 플러그인은 격리된 서비스 내에서 작동하므로 ChatGPT의 브라우징 활동은 인프라의 나머지 부분과 분리됩니다.
콘텐츠 작성자를 존중하고 웹 표준을 준수하기 위해 브라우저 플러그인의 사용자 에이전트 토큰은 ChatGPT-User 이며 웹사이트의 robots.txt 파일을 존중하도록 구성됩니다. 이로 인해 때때로 "클릭 실패" 메시지가 표시될 수 있으며, 이는 플러그인이 크롤링을 방지하라는 웹사이트의 지침을 준수하고 있음을 나타냅니다. 이 사용자 에이전트는 ChatGPT 사용자를 대신하여 직접 조치를 취하는 데만 사용되며 자동 방식으로 웹을 크롤링하는 데 사용되지 않습니다. 또한 IP 송신 범위를 게시했습니다 . 또한 웹 사이트에 과도한 트래픽을 보내는 것을 방지하기 위해 속도 제한 조치가 구현되었습니다.
브라우징 플러그인은 방문한 웹사이트를 보여주고 ChatGPT의 응답에서 소스를 인용합니다. 이렇게 추가된 투명성 레이어는 사용자가 모델 응답의 정확성을 확인하는 데 도움이 되며 콘텐츠 제작자에게 크레딧을 돌려줍니다. 이것이 웹과 상호 작용하는 새로운 방법이라는 점에 감사드리며, 트래픽을 소스로 다시 유도하고 생태계의 전반적인 건강에 추가하는 추가 방법에 대한 피드백을 환영합니다.
코드 해석기
알파우리는 약간의 임시 디스크 공간과 함께 샌드박스, 방화벽 실행 환경 에서 작동하는 Python 인터프리터를 모델에 제공합니다 . 인터프리터 플러그인에 의해 실행되는 코드는 채팅 대화가 지속되는 동안(상한 제한 시간 포함) 활성 상태인 영구 세션에서 평가되며 후속 호출은 서로 위에 구축될 수 있습니다. 현재 대화 작업 공간에 파일을 업로드하고 작업 결과를 다운로드할 수 있도록 지원합니다.
우리는 모델이 프로그래밍 기술을 사용하여 컴퓨터의 가장 기본적인 기능에 훨씬 더 자연스러운 인터페이스를 제공할 수 있기를 바랍니다 . 손가락 끝의 속도로 작업하는 열성적인 주니어 프로그래머에게 액세스할 수 있으면 완전히 새로운 워크플로우를 쉽고 효율적으로 만들 수 있을 뿐만 아니라 새로운 청중에게 프로그래밍의 이점을 제공할 수 있습니다.
초기 사용자 연구에서 코드 인터프리터를 사용하는 것이 특히 유용한 사용 사례를 확인했습니다.
- 양적 및 질적 수학적 문제 해결
- 데이터 분석 및 시각화 수행
- 형식 간 파일 변환
코드 인터프리터 통합을 시도하고 다른 유용한 작업을 발견하도록 사용자를 초대합니다.
안전 고려 사항
모델을 프로그래밍 언어 인터프리터에 연결하기 위한 주요 고려 사항은 AI 생성 코드가 실제 세계에서 의도하지 않은 부작용을 일으키지 않도록 실행을 적절하게 샌드박싱하는 것입니다. 안전한 환경에서 코드를 실행하고 엄격한 네트워크 제어를 사용하여 실행된 코드에서 외부 인터넷 액세스를 방지합니다. 또한 각 세션에 리소스 제한을 설정했습니다. 인터넷 액세스를 비활성화하면 코드 샌드박스의 기능이 제한되지만 이것이 올바른 초기 절충안이라고 생각합니다. 타사 플러그인은 우리 모델을 외부 세계에 연결하는 안전 제일 방법으로 설계되었습니다.
검색
오픈 소스 검색 플러그인을 사용하면 ChatGPT가 개인 또는 조직 정보 소스(권한 있음)에 액세스할 수 있습니다. 이를 통해 사용자는 질문을 하거나 자연어로 요구 사항을 표현하여 파일, 메모, 이메일 또는 공개 문서와 같은 데이터 소스에서 가장 관련성이 높은 문서 스니펫을 얻을 수 있습니다.
오픈 소스 및 자체 호스팅 솔루션으로서 개발자는 자체 버전의 플러그인을 배포하고 이를 ChatGPT에 등록할 수 있습니다. 이 플러그인은 OpenAI 임베딩을 활용 하고 개발자가 문서 색인 및 검색을 위해 벡터 데이터베이스( Milvus , Pinecone , Qdrant , Redis , Weaviate 또는 Zilliz )를 선택할 수 있도록 합니다. 웹후크를 사용하여 정보 소스를 데이터베이스와 동기화할 수 있습니다.
시작하려면 검색 플러그인 저장소를 방문하십시오 .
보안 고려 사항
검색 플러그인을 사용하면 ChatGPT가 콘텐츠의 벡터 데이터베이스를 검색하고 최상의 결과를 ChatGPT 세션에 추가할 수 있습니다. 즉, 외부 영향이 없으며 주요 위험은 데이터 승인 및 개인 정보 보호입니다. 개발자는 사용 권한이 있고 사용자의 ChatGPT 세션에서 공유할 수 있는 검색 플러그인에만 콘텐츠를 추가해야 합니다.
타사 플러그인
알파
제3자 플러그인은 매니페스트 파일 로 설명 되며, 여기에는 플러그인 기능과 이를 호출하는 방법에 대한 기계 판독 가능한 설명과 사용자 관련 문서가 포함됩니다.
{
"schema_version": "v1",
"name_for_human": "TODO Manager",
"name_for_model": "todo_manager",
"description_for_human": "Manages your TODOs!",
"description_for_model": "An app for managing a user's TODOs",
"api": { "url": "/openapi.json" },
"auth": { "type": "none" },
"logo_url": "https://example.com/logo.png",
"legal_info_url": "http://example.com",
"contact_email": "hello@example.com"
}할 일 관리를 위한 플러그인의 예제 매니페스트 파일
플러그인을 만드는 단계는 다음과 같습니다.
- 호출할 언어 모델을 원하는 끝점으로 API를 구축합니다(새 API, 기존 API 또는 LLM용으로 특별히 설계된 기존 API 주변의 래퍼일 수 있음).
- API를 문서화하는 OpenAPI 사양과 OpenAPI 사양에 연결되고 일부 플러그인 관련 메타데이터를 포함하는 매니페스트 파일을 생성합니다.
chat.openai.com 에서 대화를 시작할 때 사용자는 활성화할 타사 플러그인을 선택할 수 있습니다. 활성화된 플러그인에 대한 문서는 대화 컨텍스트의 일부로 언어 모델에 표시되어 모델이 사용자 의도를 이행하는 데 필요한 적절한 플러그인 API를 호출할 수 있도록 합니다. 현재 플러그인은 백엔드 API를 호출하도록 설계되었지만 클라이언트측 API도 호출할 수 있는 플러그인을 탐색하고 있습니다.
기대
우리는 플러그인을 개발하고 더 많은 청중에게 제공하기 위해 노력하고 있습니다. 우리는 배워야 할 것이 많고 모두의 도움을 받아 유용하고 안전한 것을 만들고자 합니다.
다음 시간에는 이전에 신청했던 ChatGPT API Waitlist가 도착했는지 확인해보고 직접 활용해본 뒤 글을 써보려고 합니다.
여러분 다음시간에 만나요.
