공부방

LLM 과 임베딩

회사에서 LLM과 관련하여 임베딩에 대한 주제가 나와 대화하는데 정확하게 알지 못해서 어려웠던 경험이 있다.그래서 임베딩에 대해 조금 알아보려고 한다.임베딩(Embedding)은 자연어 처리(NLP) 및 머신러닝 분야에서 중요한 개념으로, 텍스트 데이터를 수치 벡터로 변환하는 기술이다.우선 간단하게 임베딩의 개념, 종류부터 찾아보았다.1. 임베딩이란?임베딩은 텍슽트, 이미지, 음성 등 다양한 컴퓨터가 데이터를 고차원의 공간에서 저차원의 벡터로 변환하는 과정이라고 한다.이를 통해 컴퓨터가 데이터를 보다 효율적으로 처리하고, 유사성을 계산하거나 예측 모델에 입력할 수 있게 된다.임베딩의 주요 목적은 의미적으로 유사한 데이터를 벡터 공간에서도 가깝게 배치하는 것이다.예를 들어, "고양이"와 "개"라는 단어는 ..

[소프트웨어 아키텍처] 레이어드 아키텍처

소프트웨어 아키텍처? 소프트웨어 아키텍처는 개발하기 전에 설계 단계에서 결정하는 중요한 요소이다. 소프트웨어 아키텍처는 소프트웨어 시스템의 구조와 구성 요소 간의상호 작용을 설계하고 결정하는 과정이다. 아키텍처는 시스템의 품질(성능, 보안, 확장성 등)을 보장하며, 장기적으로 시스템을 관리하고 유지보수하는 데 있어 중요한 역할을 한다. 이는 소프트웨어 개발의 초기 단계에서 결정되며, 시스템의 복잡성을 분해하고 모듈화하여 개발 과정을 관리 가능한 단위로 나누는 역할을 수행한다. 아키텍처의 대표적인 종류에는 레이어드 아키텍처(Layered Architecture) 마이크로서비스 아키텍처(Microservices Architecture) 서버리스 아키텍처(Serverless Architecture) 핵사고날 ..

앱의 종류(웹 앱, 네이티브 앱, 하이브리드 앱)

차이점 애플리케이션은 고객과 정보를 교환하고 고객의 특정 작업을 완료하도록 돕는 소프트웨어이다. 개발 방법과 내부 기능에 따라 다양한 유형의 애플리케이션(또는 앱)이 있다. 웹 앱은 인터넷 브라우저를 통해 제공된다. 사용자는 디바이스에 웹 앱을 설치할 필요가 없다. 반면 네이티브 앱은 특정 플랫폼이나 디아이스 유형에 맞춰 구축된다. 사용자는 원하는 디바이스에 적절한 소프트웨어버전을 설치해야 한다. 하이브리드 앱은 웹 브라우저가 내부에 포함된 네이티브 애플리케이션이다. 그럼 조금 더 자세히 각 앱에 대해 자세히 알아보자 웹 앱 - 웹 브라우저에서 실행되는 애플리케이션 웹 앱은 웹 브라우저를 통해 접근하고 실행되는 애플리케이션이다. HTML, CSS, JavaScript와 같은 웹 기술을 사용하여 개발되며,..

웹 3.0 이 뭘까?

책 읽다가 웹 3.0에 대한 내용이 잘 정리가 되지 않아 정리해보려고 한다. 웹 3.0 이 뭐지? 웹 3.0은 기본적으로 웹 2.0의 핵심인 읽기와 쓰기를 넘어 '소유'의 개념이 더해진 것이다. 세계 곳곳에 흩어진 네트워크 참여자들의 컴퓨터 자원을 활용하는 블록체인 기술 덕분에 자료가 분산 저장되고, 이더리움 같은 가상화폐에 내재된 자동화 프로그래밍 기술로써 관리자의 개입 없는 웹 이용이 가능하다. 즉, 데이터의 저장과 사용, 소유가 네티즌에게 주어지는 완전히 개인화된 인터넷 환경을 만들 수 있다는 개념이다. 이를 활용한 기술 스택 블록체인 암호화폐 탈 중앙화된 애플리케이션 토큰 및 NFT 메타버스, 가상 현실 실용적인 인공지능 AI 아직 이렇게만 말해서는 조금 이해하기 어렵다.. 웹 2.0과 1.0에 ..