TedDev

강화 학습과 인간 피드백(Reinforcement Learning from Human Feedback, RLHF)은 인공지능, 특히 대규모 언어 모델(LLM)을 훈련시키는 중요한 방법론입니다. 이 기술은 AI 시스템이 인간의 가치와 선호도에 더 잘 부합하도록 만드는 데 중요한 역할을 합니다. RLHF란 무엇인가?RLHF는 AI 모델이 인간의 피드백을 바탕으로 자신의 출력을 개선하는 학습 프로세스입니다. 기본적으로 AI 시스템이 생성한 여러 응답 중에서 인간 평가자가 더 나은 응답을 선택하고, 이 선호도 데이터를 활용해 모델을 미세 조정하는 방식입니다. RLHF의 작동 원리RLHF는 일반적으로 다음 세 단계로 구성됩니다:기본 모델 훈련: 먼저 대규모 텍스트 데이터로 언어 모델을 사전 훈련합니다.보상 모델 ..

최근 AI 업계 리더들이 주목하는 AI 에이전트(AI Agent)는 단순한 챗봇을 넘어 실제 업무를 자동화하는 지능형 시스템입니다. 기업의 목표 달성을 위해 데이터 분석, 의사결정, 작업 실행을 수행하는 이 기술은 이미 다양한 산업에서 혁신을 주도하고 있습니다.  AI 에이전트의 핵심 개념AI 에이전트는 환경과 상호작용하며 목표를 달성하는 자율적 소프트웨어로 다음과 같은 특징을 가집니다.자율성 : 인간 개입 없이 독립적으로 의사결정목표 지향성 : 주어진 임무를 효율적으로 수행하기 위해 계획 수립학습 능력 : 경험을 통해 성능을 지속적으로 개선환경 인식 : 센서, 데이터베이스, 사용자 입력 등을 통해 주변 정보 수집기존 AI 시스템과의 차이점은 실제 업무 실행 능력에 있습니다. 예를 들어, 챗봇이 정보 제..

MCP란 무엇인가?MCP(Model Context Protocol)는 AI 모델과 외부 데이터 소스 또는 도구를 연결하는 개방형 표준 프로토콜입니다. 이를 통해 AI 모델은 외부에서 필요한 맥락(Context)이나 정보를 실시간으로 가져와 작업을 수행할 수 있습니다. 기존에는 AI 모델이 고립된 데이터에만 의존했지만, MCP는 이를 극복하여 확장성과 상호운용성을 제공합니다. MCP는 흔히 AI 분야의 USB-C 포트로 비유되며, 다양한 데이터 소스와 도구를 표준화된 방식으로 연결해주는 역할을 합니다. 이를 통해 개발자는 새로운 데이터 소스와의 통합에 드는 시간을 줄이고, 보다 유연한 AI 솔루션을 구축할 수 있습니다. MCP의 주요 구성 요소MCP는 클라이언트-서버 구조를 기반으로 하며, 다음과 같은 핵..

트랜스포머란트랜스포머(Transformer)는 2017년 구글 연구팀이 "Attention is All You Need" 논문에서 처음 소개한 신경망 아키텍처입니다. 이전의 순환 신경망(RNN)이나 합성곱 신경망(CNN)과 달리, 트랜스포머는 완전히 새로운 접근 방식을 취했습니다. 이 모델의 가장 중요한 혁신은 '셀프 어텐션(Self-Attention)' 메커니즘으로 이를 통해 문장 내 모든 단어들 간의 관계를 효과적으로 모델링할 수 있게 되었습니다. 트랜스포머의 핵심 구성 요소1. 셀프 어텐션 메커니즘셀프 어텐션은 트랜스포머의 핵심 요소로 시퀀스 내 각 위치가 다른 모든 위치와 어떻게 관련되는지 계산합니다. 예를 들어 "그는 사과를 먹었다. 그것은 맛있었다."라는 문장에서, '그것'이 '사과'를 가리킨..

프롬프트 엔지니어링은 AI 모델이 원하는 결과물을 생성하도록 최적화된 입력(프롬프트)을 설계하는 기술입니다. 효과적인 프롬프트를 작성하는 것은 마치 명확한 지시를 주는 것과 같으며, 이는 AI가 제공하는 답변의 품질에 직접적인 영향을 미칩니다. 프롬프트 엔지니어링의 핵심 원칙1. 명확성과 구체성모호한 질문보다는 구체적인 지시가 더 나은 결과를 가져옵니다. "좋은 에세이 작성해줘"보다는 "환경 보호의 중요성에 대한 500단어 에세이를 작성해줘. 주요 문제점 3가지와 해결책을 포함해줘"와 같이 요청하는 것이 효과적입니다.2. 맥락 제공하기AI에게 충분한 배경 정보를 제공하면 더 관련성 높은 답변을 얻을 수 있습니다. 대상 독자, 목적, 원하는 형식 등을 명시하는 것이 좋습니다.3. 단계별 접근복잡한 문제는 ..

LLM(Large Language Model, 대규모 언어 모델)은 방대한 양의 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성할 수 있는 인공지능 모델을 의미합니다. 주로 딥러닝 기반의 트랜스포머(Transformer) 아키텍처를 활용하며, 자연어 처리(NLP) 분야에서 강력한 성능을 보입니다. LLM의 주요 특징대규모 매개변수(Parameters)수억에서 수천억 개 이상의 매개변수를 포함더 많은 데이터를 학습할수록 더 정교한 언어 이해 및 생성 가능사전 학습(Pretraining)과 미세 조정(Fine-tuning)사전 학습(Pretraining): 대량의 텍스트 데이터로 일반적인 언어 구조 학습미세 조정(Fine-tuning): 특정 도메인(의료, 법률 등)이나 작업(번역, 코드 생성 등)에 ..

기계학습(Machine Learning, ML)은 인공지능(AI)의 한 분야로, 컴퓨터가 명시적으로 프로그래밍되지 않고도 데이터를 통해 패턴을 학습하고 예측하거나 결정을 내릴 수 있도록 하는 기술입니다. 기계학습은 다양한 알고리즘과 모델을 활용하여 데이터를 분석하고, 반복적인 학습 과정을 통해 성능을 향상시킵니다. 기계학습의 주요 개념지도학습(Supervised Learning)입력 데이터(특징)와 정답(레이블)이 함께 제공되는 학습 방식대표 알고리즘: 선형 회귀, 로지스틱 회귀, 의사결정나무, 랜덤 포레스트, 서포트 벡터 머신(SVM), 신경망 등예: 이메일 스팸 필터링, 이미지 분류, 음성 인식비지도학습(Unsupervised Learning)정답(레이블) 없이 데이터의 패턴을 스스로 찾아내는 방식대..

최근 회사에서 AI와 관련된 업무를 하고 있어 이런 저런 책과 자료를 살펴보던 중 굉장히 쉽게 쓰여져 있는 책이 있어 소개하고자 한다. 이것이 생성형 AI다 책은 생성형 AI의 개념을 아주 쉽게 풀어쓴 책이다. 따라서 이 책의 가장 큰 장점은 접근성이다. AI라는 주제는 종종 어렵고 난해하게 느껴지기 마련이다. 이 책은 전문용어를 최소화하고 실생활과 연결된 사례를 통해서 설명함으로써 초보자도 이해할 수 있도록 구성하였다. 그러면서도 생성형 AI를 이해하고자 한다면 기본적으로 알아야할 개념(LLM, 전이학습, RAG 등)은 다 포함하고 있다. 인상 깊었던 점은 이 책은 단순히 지식을 전달하는 것만 아니라 대규모 언어 모델에 과도한 의존은 경계해야 한다고 이야기 하고 있다. 주어진 과제나 문제에 대한 결과는..

생성형 AI(Generative AI)란?생성형 AI(Generative AI)는 주어진 데이터를 학습하여 새로운 콘텐츠(텍스트, 이미지, 오디오, 코드 등)를 생성하는 인공지능 기술입니다. 기존의 AI가 데이터를 분석하고 예측하는 데 초점을 맞췄다면 생성형 AI는 창작을 할 수 있다는 점에서 차별화됩니다. 1. 생성형 AI의 원리생성형 AI는 주로 딥러닝(Deep Learning) 모델을 활용하여 동작하며 대표적인 기술로 GAN(Generative Adversarial Network), VAE(Variational Autoencoder), 트랜스포머(Transformer) 모델이 있습니다.GAN (적대적 생성 네트워크)두 개의 신경망(생성자 + 판별자)이 경쟁하며 데이터를 생성하는 방식예: 위조 화폐를..

AWS Bedrock Amazon 의 생성형 AI 서비스기업이 AI 모델을 활용하여 텍스트 생성, 이미지 생성, 코드 작성, 문서 요약 등 다양한 AI 애플리케이션을 개발할 수 있도록 지원하는 서비스서버리스 서비스이므로 사용자는 모델 훈련, 인프라 설정, 배포를 직접 관리할 필요가 없음다양한 파운데이션 모델을 제공하여 최적의 AI 모델을 선택할 수 있음기업 맞춤형 AI 솔루션 구축 가능 (Fune-tuning, RAG, API 연동 가능) AWS Bedrock 의 주요 AI 모델Amazon Titan (AWS) : 자체 개발 모델, 텍스트 생성 및 임베딩 지원Claude 1,2,3 (Anthropic) : 강력한 자연어 이해, 긴 컨텍스트 처리 가능Jurassic-2 (AI21 Labs) : 긴 텍스트 ..

LangGraph는 LangChain의 확장 기능으로, 그래프(Graph) 구조를 활용하여 복잡한 AI 애플리케이션을 설계하는 프레임워크입니다. 기존 LangChain은 직선적인(순차적) 체인 방식으로 AI 에이전트를 구성하는 반면, LangGraph는 멀티에이전트 협업, 비선형 흐름, 동적 의사 결정을 가능하게 합니다. LangGraph란?LangGraph는 노드(Node)와 엣지(Edge)를 이용한 그래프 기반 워크플로우를 통해 대화형 AI 및 멀티에이전트 시스템을 구축할 수 있도록 지원하는 LangChain의 확장 도구입니다. 이를 통해 기존 LangChain보다 훨씬 더 복잡하고 유연한 AI 애플리케이션을 개발할 수 있습니다. LangGraph의 핵심 개념노드(Node): LLM 호출, API 요..

우리는 살면서 수많은 관계를 맺고 살아간다. 가족, 친구, 연인, 직장 동료까지 다양한 사람들과 얽히며 때로는 기쁨을 때로는 상처를 받기도 한다. 최근 들어 유난히 이 관계라는 것을 유지하는데 너무 많은 힘과 에너지가 들어간다는 생각을 한다. 그래서 이 책의 제목이 더 눈에 띄었던 것 같았고 읽어보니 꼭 필요한 책이었다는 생각도 들었다. 읽으면서 인상적이었던 부분과 들었던 생각 몇 가지 정리해 본다. 인간관계만큼 변화무쌍한 건 없다. 더구나 내 마음이 전쟁터 같은데 무기력에 시달리는 중이라면, 당분간 모든 관계를 멈추는 것이 이로울지 모르겠다. 우선 마음의 평정을 찾는 일이 급선무 아닌가. 괜찮은 척연기를 하기엔 표정이 굳어 있다. 내 삶 하나 건사 못하는 것만으로 이미 짜증이 나 있다. 그런 상황에서 ..

클린 아키텍처(Clean Architecture)는 로버트 C. 마틴이 제안한 소프트웨어 아키텍처 패턴으로 소프트웨어의 유지보수성과 확장성을 높이기 위해 관심사를 분리하는 구조를 의미한다.이 아키텍처는 의존성 규칙(Dependency Rule) 을 기반으로 계층을 나누고 핵심 비즈니스 로직이 외부 요소(데이터베이스, UI, 프레임워크 등)에 의존하지 않도록 설계된다. 1. 클린 아키텍처의 핵심 원칙클린 아키텍처는 아래 4가지 원칙을 따른다.① 독립성(Independence)프레임워크로부터 독립 🏗️ → 특정 프레임워크에 종속되지 않음 (예: 스프링, 장고 등)UI로부터 독립 🖥️ → 웹, 모바일, CLI 등 다양한 UI에서 사용 가능데이터베이스로부터 독립 🛢️ → MySQL, PostgreSQL 등..

헥사고날 아키텍처(Hexagonal Architecture)는 2005년 앨리스테어 콕번(Alistair Cockburn)이 제안한 소프트웨어 설계 패턴으로 애플리케이션의 비즈니스 로직을 외부 인터페이스(예: UI, 데이터베이스, 메시지 큐 등)로부터 분리하는 것을 목표로 한다. "포트와 어댑터 아키텍처(Ports and Adapters Architecture)"라고도 한다. 🎯 헥사고날 아키텍처의 핵심 개념헥사고날 아키텍처는 크게 세 가지 주요 구성 요소로 나뉜다.1. 도메인(Domain) / 애플리케이션 코어비즈니스 로직을 포함하는 핵심 부분데이터베이스, UI, 프레임워크 등의 외부 요소에 의존하지 않음독립적으로 테스트가 가능해야 함도메인 객체, 애그리게이트, 서비스 등이 포함됨2. 포트(Ports..

POJO는 "Plain Old Java Object"의 약자로 특별한 제한이나 규약 없이 순수하게 작성된 Java 객체를 의미한다. 이는 특정 라이브러리, 프레임워크,또는 기술에 종속되지 않고 간단한 구조로 설계된 객체이다. POJO의 특징프레임워크 독립성특정 프레임워크나 라이브러리(예: Spring, Hibernate 등)에 종속되지 않는다.POJO는 외부 종속성을 가지지 않으며 표준 Java 문법으로만 작성된다.심플한 설계간단한 필드(속성)와 getter/setter 메서드, 필요에 따라 생성자 및 기타 유틸리티 메서드로 구성된다.복잡한 기능을 포함하지 않으며 직관적이다.명시적인 동작 없음POJO는 일반적으로 동작(메서드)을 최소화하고 데이터 저장과 전달을 위한 객체로 사용된다.객체 지향 원칙 준수캡..