Hardhat (이더리움 개발 환경)
블록체인 웹3(Web3) 스마트 컨트랙트 개발자들을 구버전의 트러플(Truffle) 지옥에서 구원해 낸, 자바스크립트/타입스크립트 기반의 미친 듯이 빠르고 직관적인 이더리움 코딩 컴파일 및 테스트 툴킷
Ory Kratos (클라우드 네이티브 인증)
비밀번호 찾기 회원가입 이메일 인증 등 지루하고 빡치는 사용자 인증 로직을 내가 짤 필요 없이, 완벽하게 API 형태로 던져주는 극도로 유연하고 모던한 아이덴티티(Identity) 관리 백엔드 서버
Authelia (오픈소스 SSO 포털)
사내에 띄워둔 수십 개의 백오피스(어드민) 웹사이트를 하나의 포털 창으로 묶고, OTP 이단계 인증(2FA)과 통합 로그인(SSO)을 무료로 찰떡같이 씌워주는 보안 접근 제어 프록시
vLLM (초고속 LLM 추론 엔진)
GPU 메모리를 낭비 없이 꽉꽉 채워 쓰는 PagedAttention 기술을 도입하여, 무거운 오픈소스 대규모 언어 모델(LLM)을 서비스로 배포할 때 응답 속도를 최대 24배까지 뻥튀기하는 외계인 급 서빙 엔진
Ollama (로컬 LLM 런너)
비싼 오픈AI API 요금을 낼 필요 없이 내 맥북이나 윈도우 PC에서 메타(Meta)의 라마3(Llama3) 같은 강력한 오픈소스 인공지능 모델을 명령어 한 줄로 띄워 오프라인으로 굴리는 기적의 툴
LlamaIndex (LLM 데이터 프레임워크)
회사의 방대한 노션(Notion) 문서나 수백 장짜리 PDF 메뉴얼을 챗GPT가 학습하게 만들 때, 데이터를 깔끔하게 쪼개고 인덱싱하여 AI의 뇌 속에 가장 효과적으로 꽂아 넣어주는 특화 프레임워크
LangChain (LLM 오케스트레이션)
챗GPT(ChatGPT) 같은 인공지능 모델을 활용해 나만의 비서 앱을 만들 때, 흩어진 프롬프트와 외부 데이터(PDF, 웹페이지)를 쇠사슬(Chain)처럼 엮어주는 전 세계 1위 LLM 개발 프레임워크
Weaviate (엔터프라이즈 벡터 DB)
단순히 벡터 값만 저장하는 것을 넘어, 객체의 메타데이터 속성까지 결합하여 스키마 기반으로 데이터를 정교하게 쿼리(GraphQL)할 수 있는 차세대 오픈소스 벡터 검색 엔진
Chroma (AI 벡터 데이터베이스)
거창한 서버 세팅 없이 파이썬 패키지(pip install) 하나만 깔면 오프라인 로컬 환경에서 즉시 구동되는, 대규모 언어 모델(LLM)과 RAG 챗봇 개발을 위한 깃털처럼 가벼운 AI 벡터 DB
Apache Druid
넷플릭스(Netflix)나 카카오처럼 화면 새로고침 한 번에 수백만 개의 트래픽 로그 차트를 실시간으로 그려내야 할 때 0.1초의 지연도 용납하지 않는 초고성능 실시간 분석(OLAP) 데이터베이스