생성형 AI(Generative AI) 란?

Generative Artificial Intelligence의 약자인 Generative AI는 훈련받은 내용과 유사한 새롭고 독창적인 콘텐츠를 생성할 수 있는 능력을 갖춘 인공 지능 알고리즘 및 모델 클래스를 의미합니다. 이러한 모델은 인간이 제작한 콘텐츠와 유사한 이미지, 텍스트, 오디오 등과 같은 데이터를 생성할 수 있습니다.

Generative AI는 훈련 단계에서 데이터 세트의 패턴과 기능을 학습한 다음 해당 지식을 사용하여 해당 패턴에 맞는 새로운 데이터를 생성하는 방식으로 작동합니다.

- 텍스트 생성: 기사, 이야기, 시 등을 포함하여 인간과 유사한 텍스트를 생성합니다.
- 이미지 생성: 종종 임의의 노이즈에서 시작하여 사실적인 이미지와 유사하도록 다듬는 새로운 이미지를 생성합니다.
- 오디오 생성: 음악, 음성 또는 기타 사운드 패턴을 포함한 오디오를 생성합니다.
- 비디오 생성: 애니메이션 및 시각적 시퀀스를 포함한 비디오 콘텐츠 제작.

생성형 AI 모델은 특히 GAN(Generative Adversarial Networks), VAE(Variational Autoencoders), RNN(Recurrent Neural Networks) 또는 GPT(Generative Pre-trained Transformer)와 같은 Transformer 기반 모델과 같은 아키텍처를 사용하여 딥 러닝 기술을 사용하여 구축되는 경우가 많습니다.

생성형 AI는 창의성과 혁신을 위한 놀라운 잠재력을 갖고 있지만, 특히 잘못된 정보, 딥페이크 또는 기타 유해한 콘텐츠를 생성하는 잠재적인 오용에 대한 윤리적, 사회적 우려를 불러일으킨다는 점에 유의하는 것이 중요합니다. 책임감 있는 사용 및 윤리적 고려와 혁신의 균형을 맞추는 것은 생성형 AI 분야에서 지속적인 과제입니다.

그래서, ChatGPT(OpenAI)로 촉발된 생성형 AI 열풍이 막상 기업에 이 서비스를 적용하려니 법적인 문제해결에 더 많은 고려가 필요하다는 걸 깨달으며 데이터 가버넌스를 고려하는 Anthropic이 주목을 받고 있습니다. 그들은 그것을 윤리적 위험 프레임워크(Ethical Risk Framework, ethical AI)라고 합니다.

다음 posting에서는 Anthropic 기업에 대한 소개를 하려합니다.

This image is from https://www.softwebsolutions.com/resources/generative-ai-guide.html