Recent Articles
-
Machine Learning
LLM 단기 강의 결제 리뷰 (내돈내산...?)
서울대 컴퓨터공학부 x Upstage LLM 프로젝트 단기 강의https://kiise.or.kr/conference/conf/147/ 기간: 2024년 5월 16-17일 6-9 PM, 18일 9AM-6PM* 결제는 5월 15일까지장소: 서울대학교 제2공학관 302동내용: LLM 연구 동향, 응용 use case, 프로젝트강의자: 성킴 대표님(업스테이지), 이광근 교수님, 김건희 교수님(서울대)비용: 30만원(일반 100명), 3만원(서울대 대학(원)생 100명) LLM wrapper 서비스의 파라다이스 보다는 먼 미래일테지만 아포칼립스 쪽을 지지하는 사람으로서 회사에서 LLM 사용하지도 않으면서 왜 강의까지 들어야 하는가에 대해 스스로 의문을 제기해왔다. 근데 뭔지도 모르고 본능적 두려움으로 신기술에 ..
-
Generative Models
[논문 리뷰] How to Train Your Energy-Based Models
Author: Y Song Publication: https://arxiv.org/abs/2101.03288 Diffusion model의 입문용 논문으로 추천돼있어 아는 내용 갈무리 겸 읽어보게 되었다. 각 섹션의 개요만 간단하게 정리해본다. Energy-Based Models (EBMs) Energy function: Unnormalized negative log-probability Density estimation은 nonlinear regression 문제로 귀납된다. Probability density: $p_\theta(x) = {{-E_\theta(x)} \over {Z_\theta}}$ E는 parameter $\theta$에 대한 nonlinear regression 함수이다. Norm..
-
Machine Learning
첫 개발자 밋업에 참여하다 (LLM Meetup @Liner)
우리나라에도 몰두센 처럼 짱짱한 IT 기업들이 참 많은데, 그 중에서도 생성 AI로 이름을 날리는 곳이 라이너이다. 해외 밴처 캐피탈에서 평가한 Generative AI Application 세계랭킹 4위를 거머쥔 갓 기업... 스타트업 비슷한 곳만 계속 다니다 보니 다른 회사가 잘되는 걸 보면 뭔가 응원하고 싶고 뿌듯하다. 더군다나 얼덜결에 생성 AI 연구를 하는 지금, 유독 더 관심이 갔는데...! 주시하고 있던 라이너에서 이번에 LLM 밋업을 열었다. https://lu.ma/2xxzwubp 제3회 LLM 밋업 with. Liner · Luma 실리콘밸리에서는 매일, 매 주말 다양한 기술 밋업이 열리고 있습니다. 그리고 그 자리를 통해 서로의 배움과 노하우를 공유하는 과정을 반복해서 거치며 기술의 ..
-
Generative Models
[논문 리뷰] Protein Design with Guided Discrete Diffusion (NIPS 2023)
이 글에서 다루는 논문: Protein Design with Guided Discrete Diffusion (2023.05, N Fray et al.) https://arxiv.org/abs/2305.20009비슷한 시기에 나온 유사한 논문: Protein Discovery with Discrete Walk-Jump Sampling (2023.06, N Gruver et al.) https://arxiv.org/abs/2306.12360참고하면 좋을 논문: Plug-and-Play Language Models (PPLM) https://arxiv.org/abs/1912.02164 Code: https://github.com/ngruver/NOSIntroductionProtein sequence desig..