OPSOAI
The End of RAG, or its Evolution? A 10-Year Developer's Deep Dive into 'Supermemory'

RAG의 종말, 혹은 진화? 10년 차 개발자가 뜯어본 'Supermemory' 아키텍처

현업에서 LLM 기반 서비스를 만들다 보면, 어느 순간 지독한 현타(현실 자각 타임)가 찾아옵니다. “우리가 지금 AI를 만드는 건가, 아니면 그저 텍스트 청크(Chunk)를 우겨넣는 검색기를 만드는 건가?” 하고 말이죠.최근 1~2년 동안 RAG(Retrieval-Augmented Generation)는 마치 마법의 탄환처럼 여겨졌습니다. PDF나 ...

Breaking Free from the Comfort of ChatGPT to Build a Local AI Assistant: Open WebUI Architecture and Survival Guide

챗GPT의 안락함에서 벗어나 내 컴퓨터에 AI 비서를 짓다: Open WebUI 아키텍처와 생존기

요즘 개발자들 사이에서 커피 타임에 빠지지 않는 주제가 있죠. “너네 팀은 AI 도입 어떻게 하고 있어? 사내 코드는 어떻게 올려?” 얼마 전 사내 보안팀에서 슬랙 전체 채널에 엄격한 경고성 공지가 하나 내려왔습니다. OpenAI의 ChatGPT나 Anthropic의 Claude 같은 외부 퍼블릭 LLM에 회사 소스코드나 고객 DB 스키마, 기획 문...

[Tech Deep Dive] Stop Prompting, Start Orchestrating: Inside the Mission Control Architecture for AI Agents

[Tech Deep Dive] AI 에이전트, 이제 '호출'하지 말고 '방목'하세요: Mission Control 아키텍처 해부

솔직히 고백하자면, 저는 최근까지도 쏟아지는 AI 코딩 툴들에 꽤 짙은 피로감을 느끼고 있었습니다. 10년 넘게 현업에서 코드를 짜오면서 수많은 ‘은탄환(Silver Bullet)’ 기술의 흥망성쇠를 목격했지만, 최근의 AI 트렌드는 좀 유별났죠. 물론 Copilot이나 Cursor가 제 타이핑 시간을 획기적으로 줄여준 건 부정할 수 없는 사실입니다....

Stop Fighting Spaghetti Code in LLM Apps: A Deep Dive into Dify's Architecture

LLM 앱 개발, 언제까지 스파게티 코드와 싸울 건가요? (Dify 아키텍처 딥다이브)

🎣 The Hook: 주말의 프로토타입이 월요일의 레거시가 되기까지 안녕하세요. 현업에서 10년째 코드를 굴리며, 온갖 기술의 흥망성쇠를 지켜봐 온 개발자입니다. 최근 1~2년 사이 우리 개발자들의 일상에 가장 크게 침투한 키워드를 꼽으라면 단연코 ‘LLM(대형 언어 모델)’이겠죠. 다들 비슷한 경험 있으실 겁니다. 주말에 커피 한 잔 내려놓고 L...

How to Survive When the Cloud Dies: The Essence of 'Offline-First' Architecture Proven by Project N.O.M.A.D

클라우드가 죽어도 살아남는 법: Project N.O.M.A.D가 증명한 '오프라인-퍼스트' 아키텍처의 진수

클라우드가 죽어도 살아남는 법: Project N.O.M.A.D가 증명한 ‘오프라인-퍼스트’ 아키텍처의 진수 1. 프롤로그: 우리는 언제부터 ‘API 래퍼(Wrapper)’가 되었나 최근 출장 중 비행기 안이나, 와이파이가 터지지 않는 오지 카페에서 코딩을 해본 적 있으신가요? 공식 문서를 확인하려 해도, 터미널에서 패키지를 하나 당겨오려 해도, ...

A Prescription for Developers Fighting AI's 'Forgetting': The Blueprint of True Long-term Memory with Memoria

AI의 '망각'과 싸우는 개발자를 위한 처방전: Memoria가 그리는 진짜 장기 기억의 설계도

어제 나눈 대화를 기억하지 못하는 내 AI에게 10년 차 개발자로 구르다 보면, 가끔 기술적 성취감보다 ‘인간적인 허탈함’을 느낄 때가 있습니다. 최근 저를 가장 허탈하게 만들었던 건 바로 LLM의 ‘금붕어 기억력’이었어요. 128k, 심지어 1M 토큰 윈도우 시대가 열렸다고는 하지만, 현실은 냉정합니다. 컨텍스트가 길어질수록 모델은 ‘중간에 길을 ...