■ GPT4All 클래스의 생성자에서 model/backend/streaming/callbacks 인자를 사용해 GPT4All 객체를 만드는 방법을 보여준다.
▶ 예제 코드 (PY)
|
1 2 3 4 5 6 7 8 9 10 11 |
from langchain_community.llms import GPT4All from langchain_core.callbacks import StreamingStdOutCallbackHandler gpt4All = GPT4All( model = "./EEVE-Korean-10.8B-v1.0.Q4_0.gguf", backend = "gpu", streaming = True, callbacks = [StreamingStdOutCallbackHandler()] ) |
※ pip install langchain-community gpt4all 명령을 실행했다.