min117の日記

初期desireもち。趣味Mac,メインFedora,仕事xp。

Preferred Network提供の日本語高性能LLM「PLAMO」を試す(python3からlangchain-openaiで)

ハピタスのポイントをビットコインに変えて円安に備える

 

1,000万円を超えたbitcoinを少しだけどもらえるURL

https://bitflyer.com/invitation?id=l50e5ljw&lang=ja-JP

ハピタスからポイントもらえるURL

その買うを、もっとハッピーに。|ハピタス

Preferred Network好き

plamo.preferredai.jp

LLM利用登録してAPIもらったのでサンプルコード書いてみる。

 

langchain-openai のサンプルコードを使う。

https://pypi.org/project/langchain-openai/

pypi.org

 

$ python3 -m pip install lanchain-openai

$ vim myKINRIplamo02.py

import os
from langchain_openai import ChatOpenAI

API_HOST='https://platform.preferredai.jp'
API_KEY='ここにPLaMoサイトに登録して提供してもらったAPIキーを記述する'
echo 'PLaMoサイトはこちら→ https://plamo-trial.platform.preferredai.jp/'

llm = ChatOpenAI(
    #base_url=f"{os.environ['API_HOST']}/api/completion/v1",
    base_url=f"https://platform.preferredai.jp/api/completion/v1",
    model="plamo-beta",
    streaming=True,
    # other params...,
    openai_api_key=API_KEY
)

messages=[
    {"role": "system", "content": "あなたは旅行アドバイザーです"},
    {"role": "user", "content": "秋田県男鹿市で朝から夕方まで1日のおすすめの観光ルートを教えて下さい"},
]

for chunk in llm.stream(messages):
    print(chunk.content, end="", flush=True) 

 

bashで alias ppp='python3 'してある。

さらに改良したいのでChatGPTに聞いちゃう。

このコードを改良して、質問事項をスクリプトの引数として取れるようにし、かつ、出力を yyyymmdd_hhmm_plamo02.txt に保存するように改良できる?

改良後のコード

動かしてみる。

$ python3 myKINRIplamo03.py '福井県鯖江市についてオススメして'

これでコンソールからAIが使えるぞぅ!(しかも質問事項がファイルで残る!)