GN⁺: Show HN: Jupyter Notebooks에 Mistral Codestral 및 GPT-4o 추가

Pretzel 🥨 현대적이고 오픈 소스인 Jupyter 대안

Pretzel은 Jupyter의 기능을 개선하기 위해 만들어진 Jupyter의 포크임. AI 코드 생성 및 편집, 인라인 탭 완성, 사이드바 채팅 및 오류 수정 기능을 추가함. Jupyter에서 Pretzel로 전환하는 것은 매우 쉬움. 모든 Jupyter 설정, 키 바인딩 및 확장 기능이 그대로 작동함.

빠른 시작

• 설치: pip install pretzelai 후 pretzel lab을 실행하여 웹 인터페이스를 열 수 있음. 또는 무료 호스팅 버전 사용 가능: pretzelai.app
• 셀에서 타이핑을 시작하면 인라인 탭 완성 기능 사용 가능
• Jupyter 셀에서 "Ask AI" 클릭 또는 Cmd+K (Mac) / Ctrl+K (Linux/Windows) 눌러 AI 프롬프트 열기
• Ctrl+Cmd+B (Mac) 또는 Ctrl+Alt+B (Linux/Windows)로 AI 사이드바 활성화하여 AI와 채팅, 코드 생성 및 질문 가능
• OpenAI API 키 사용 설정은 설정 섹션 참조

설치

• pip을 사용하여 Pretzel 설치: pip install pretzelai
• conda 사용 시, 먼저 pip 설치 후 Pretzel 설치: conda install pip 후 pip install pretzelai
• Pretzel 시작: pretzel lab

사용법

인라인 탭 완성

• 셀에서 타이핑을 시작하면 Mistral의 Codestral을 사용하여 인라인 탭 완성 기능 사용 가능
• 1초 기다리면 완성 기능이 트리거됨

노트북 셀에서 코드 생성 및 편집

• 셀에서 Cmd+K (Mac) / Ctrl+K (Windows/Linux) 또는 "Ask AI" 클릭하여 AI 프롬프트 텍스트 박스 열기
• @variable을 언급하여 메모리에 있는 변수 및 데이터프레임 참조 가능
• 기존 코드가 있는 경우 프롬프트가 기존 코드를 편집함
• 셀에서 일부 코드를 선택/강조하면 선택된 코드만 편집됨
• 응답을 수락/거부하거나 프롬프트를 수정하여 재제출 가능
• ↑ / ↓로 프롬프트 히스토리 순환 가능

AI 사이드바 사용

• Ctrl+Cmd+B (Mac) / Ctrl+Alt+B (Linux/Windows) 또는 오른쪽 사이드바의 Pretzel 아이콘으로 AI 사이드바 활성화
• 질문, 코드 생성 또는 기존 코드 검색 가능
• AI는 항상 활성 셀의 코드를 컨텍스트로 사용함. 활성 셀의 일부 코드를 강조하면 강조된 코드만 컨텍스트로 사용됨

예시 사용법:

• "Modify the function my_function in @notebook to be more efficient" ← 노트북 전체에서 my_function 함수를 검색하고 수정함
• "Where is the code in @notebook that removes outliers"? ← 노트북 전체에서 이상치를 제거하는 코드를 검색함
• "Can you explain what this code does?" ← 현재 셀의 코드를 설명함

기존 코드 중간에 코드 추가

• 커서를 빈 줄이나 기존 코드 줄에 놓고 Cmd+K로 AI 프롬프트 텍스트 박스 열기
• 프롬프트를 inject 또는 ij로 시작하면 AI가 기존 코드를 편집하지 않고 새로운 코드를 추가함
• 코드는 커서가 놓인 줄 아래 한 줄에 추가됨

AI로 오류 수정

• 오류가 발생하면 오른쪽 상단에 "Fix Error with AI" 버튼이 나타남. 클릭하여 오류 수정 시도 가능

설정

• Pretzel은 기본적으로 설정 없이 작동함
• Pretzel은 기본적으로 무료 AI 서버를 사용함. OpenAI/Azure API 키를 사용하도록 설정 가능

OpenAI 지원

• 상단 메뉴바의 Settings 메뉴 열기, Settings Editor 클릭
• Pretzel 검색 후 왼쪽 바에서 Pretzel AI Settings 선택
• AI Service 드롭다운에서 OpenAI API Key 선택 후 OpenAI Settings > API Key에 API 키 입력
• OpenAI Enterprise를 사용하는 경우, OpenAI 호출을 위한 기본 URL도 입력 가능
• 기본 모델은 GPT-4o이며, OpenAI Model 드롭다운에서 변경 가능

Azure 지원

• OpenAI 설정과 동일하게 AI Service 드롭다운에서 Use Azure API 선택 후 Azure 호스팅 모델 사용 가능

피드백, 버그 및 문서

• 버그 보고: https://github.com/pretzelai/pretzelai/issues
• 피드백 및 불만 사항: [e-mail]

Jupyter 관련 정보

• 원래 Jupyter 문서는 여기에서 확인 가능하며, Jupyterlab README는 여기에서 확인 가능함

개인정보 보호정책, 데이터 수집 및 보유

• 개인 정보를 수집하지 않음. AI 기능에 대한 기본 텔레메트리만 사용함
• 쿠키를 허용하면 여러 브라우저 세션에서 동일한 사용자로 인식 가능
• AI 기능을 위한 프롬프트만 수집하며, 응답은 수집하지 않음. 설정에서 프롬프트 텔레메트리 비활성화 가능
• 코드는 전혀 수집하지 않음. Pretzel의 클라우드 AI 서버를 사용하더라도 코드는 저장되지 않음
• Pretzel의 호스팅 버전을 사용하는 경우, 이메일 주소를 기반으로 사용자 계정을 생성함. 언제든지 로그인하여 저장된 데이터를 삭제 가능
• 호스팅 서버는 무료로 사용 가능하지만, 마지막 로그인 후 30일 후에 데이터와 계정을 삭제함. 계정을 즉시 삭제하려면 [e-mail]으로 "Account Deletion" 제목의 이메일을 보내면 됨

FAQ

Q. 이전 버전의 Pretzel AI는 어떻게 되었나요? A. pretzelai_visual 폴더에서 확인 가능. 자세한 내용은 이 PR 참조

Q. Pretzel은 어떤 AI 모델을 사용하나요? A. Pretzel은 다양한 작업에 대해 다른 AI 모델을 사용함:

1. 기본 모델: GPT-4o
   • 속도와 품질의 균형이 좋음
   • 자체 API 키를 사용하는 경우 Pretzel 설정에서 변경 가능
2. 인라인 완성: Mistral의 Codestral 모델
   • 코드 완성에 탁월함
   • 매우 빠른 성능 (22B 파라미터 모델)
3. 대체 옵션:
   • 자체 API 키를 사용하면서 Mistral API 키를 제공하지 않는 경우, Pretzel은 인라인 완성에도 GPT-4o를 사용함

Q. 기능 X는 어떻게 되나요? A. 만들고 싶은 기능이 많음. 원하는 기능을 알려주시면 이슈를 열어주세요

Q. 로드맵은 어디에 있나요? A. README 상단에 대략적인 로드맵이 있음. 많은 기능을 만들고 싶지만, 현재 두 명이서 작업 중임. 피드백을 수집하여 우선순위를 정할 예정. 이슈를 열거나 이메일로 피드백을 보내주세요

Q. 왜 AGPL 라이선스를 사용하나요? MIT/BSD3 라이선스를 사용하지 않는 이유는 무엇인가요? A. Pretzel을 만드는 목표는 개인과 회사 모두 무료로 사용할 수 있는 훌륭한 데이터 도구를 만드는 것임. AGPLv3 라이선스를 사용하여 제3자가 코드를 가져가서 커뮤니티에 기여하지 않고 판매하는 것을 방지함

Q. 왜 Jupyter의 포크를 선택했나요? Jupyter에 직접 기여하지 않는 이유는 무엇인가요? A. 새로운 도구로 전환하는 것이 어렵다는 것을 깨달았음. Jupyter의 포크를 통해 전환 비용을 최소화함. Jupyter는 성숙한 제품이며, 빠르게 기능을 추가할 수 있음

Q. AGPLv3 라이선스 도구 사용에 대해 회사가 걱정하는 경우 어떻게 해야 하나요? A. AGPL은 Pretzel을 수정하고 공개적으로 재배포하는 경우에만 장벽이 됨. 회사 내부에서 도구로 사용하는 경우 AGPL은 코드를 공유하라고 요구하지 않음. AGPL이 문제인 경우, 연락 주시면 해결책을 찾을 수 있음

Q. 어떻게 돈을 벌 계획인가요? 무료로 제공하는 이유는 무엇인가요? A. 회사에 호스팅 버전을 판매하여 수익을 창출할 계획. 호스팅 버전은 데이터 접근 제어, 데이터 소스 연결, GitHub 통합, 공유 가능한 대시보드 등 회사에 필요한 기능을 포함할 예정. 개인용 버전은 유료로 전환하지 않을 것임

GN⁺의 의견

• Pretzel은 Jupyter의 기능을 확장하여 데이터 과학자와 엔지니어에게 더 나은 도구를 제공함. AI 기반 코드 생성 및 편집 기능은 생산성을 크게 향상시킬 수 있음
• Jupyter와의 호환성을 유지하면서 새로운 기능을 추가한 점이 인상적임. 전환 비용이 거의 없다는 점에서 사용자에게 큰 장점이 됨
• AGPL 라이선스를 사용하여 커뮤니티에 기여하도록 유도하는 점이 긍정적임. 그러나 일부 기업에서는 라이선스 문제로 인해 도입을 꺼릴 수 있음
• Pretzel의 AI 기능은 코드 작성과 디버깅을 더 쉽게 만들어 주지만, AI 모델의 성능과 정확성에 따라 결과가 달라질 수 있음. AI 모델의 지속적인 개선이 필요함
• Pretzel과 유사한 기능을 제공하는 도구로는 Google Colab, VSCode의 Jupyter 확장 등이 있음. 각 도구의 장단점을 비교하여 선택하는 것이 중요함