SB IntuitionsのSarashina2.2検証結果

Sarashina2.2の検証結果

SB IntuitionsのSarashina2.2検証結果

YouTubeで公開した、Sarashina2.2を試してみる!でインプットに使ったデータと、出力された結果についてまとめているものです。
良ければ、動画も見てください!


使用したプログラムコード

0.5b、1b、3bの検証については下記のコードを利用していました。
モデルパス部分だけ、それぞれのモデル名になるように変更しています。

  1. from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
  2.  
  3. model_path = "sbintuitions/sarashina2.2-3b-instruct-v0.1"
  4. tokenizer = AutoTokenizer.from_pretrained(model_path)
  5. model = AutoModelForCausalLM.from_pretrained(model_path, torch_dtype="auto", device_map="auto")
  6. model.eval()
  7.  
  8. streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
  9.  
  10. chat = [
  11. {"role": "system", "content": "好奇心旺盛なユーザーと人工知能アシスタントとのチャット。アシスタントはユーザーの質問に対して、役立つ詳細で丁寧な回答を提供します。"},
  12. # {"role": "user", "content": "LLMとは何ですか?"},
  13. # {"role": "user", "content": "Hugging Faceとは何ですか?"},
  14. # {"role": "user", "content": "次の文章を要約してください。長期化するコロナ禍で生活が苦しくなった人たちを支援するため、弁護士らのグループが31日、年越し支援コロナ被害相談村を東京都新宿区の大久保公園で開いた。自治体などの窓口の多くが閉まる年末年始に、労働や生活に関わる相談を受けたり、コメや野菜などの食料品を提供したりする場をつくっている。元日も午前10時~午後4時に同公園で開く。労働組合や弁護士らでつくる実行委員会が前年に続いて開催した。会場には、女性のためのブースも設けられ、女性スタッフだけで相談にのる態勢が整えられている。実行委によると、31日午後4時時点で、20代から90代の208人が訪れたという。前年の大みそかの2倍の人数だった。寄せられた相談の中には、システムエンジニアとして月収が100万円あったが、失職して今は野宿生活をしている男性や、3カ月前に解雇されてアパートの家賃を払えなくなったという男性など、仕事や住まいを失うケースが目立つという。共同代表の棗一郎弁護士は失業期間が長引く中で、今回は労働相談も増えている。行政は失業対策に取り組むべきだと話す。"},
  15. # {"role": "user", "content": "次の文章を要約してください。明石家さんまが主演のお正月特別公演笑輪の笑い~Born ready達~が1日、大阪ミナミのなんばグランド花月で開かれた。さんまがNGK正月興行に出演するのは40年ぶりのこと。昨年も開催を予定していたが、新型コロナ禍で中止となった。冒頭、歌舞伎の口上スタイルで出演者が登場したが、満員の観客から大きな拍手を浴びると、さんまは立ち上がってパン。パン、パン、パンとお決まりの拍手を留める芸を披露。中川家礼二、剛がモノマネ。次長課長河本のツッコミも。さんまが出演者を、爆笑エピソードを交えて紹介した。さんまファミリーのジミー大西、松尾伴内との出会い、中川家、次長課長がさんまのハートを掴んだネタを解説。若手のアインシュタイン稲田直樹、河井ゆずるやアキナ秋山賢太、山名文和にはダメ出しを少々。さんまのレアなモノマネも飛び出し、国民的番組には辛口のコメントを発した。トークだけで盛り上がり、すでに予定時間をオーバーした。その後は漫才、コント、モノボケや、レトロな大阪を舞台にした爆笑喜劇。エンドレスの初笑いとなった。"},
  16. # {"role": "user", "content": "次の文章からキーワードを5つ抽出してください。長期化するコロナ禍で生活が苦しくなった人たちを支援するため、弁護士らのグループが31日、年越し支援コロナ被害相談村を東京都新宿区の大久保公園で開いた。自治体などの窓口の多くが閉まる年末年始に、労働や生活に関わる相談を受けたり、コメや野菜などの食料品を提供したりする場をつくっている。元日も午前10時~午後4時に同公園で開く。労働組合や弁護士らでつくる実行委員会が前年に続いて開催した。会場には、女性のためのブースも設けられ、女性スタッフだけで相談にのる態勢が整えられている。実行委によると、31日午後4時時点で、20代から90代の208人が訪れたという。前年の大みそかの2倍の人数だった。寄せられた相談の中には、システムエンジニアとして月収が100万円あったが、失職して今は野宿生活をしている男性や、3カ月前に解雇されてアパートの家賃を払えなくなったという男性など、仕事や住まいを失うケースが目立つという。共同代表の棗一郎弁護士は失業期間が長引く中で、今回は労働相談も増えている。行政は失業対策に取り組むべきだと話す。"},
  17. {"role": "user", "content": "次の文章からキーワードを5つ抽出してください。明石家さんまが主演のお正月特別公演笑輪の笑い~Born ready達~が1日、大阪ミナミのなんばグランド花月で開かれた。さんまがNGK正月興行に出演するのは40年ぶりのこと。昨年も開催を予定していたが、新型コロナ禍で中止となった。冒頭、歌舞伎の口上スタイルで出演者が登場したが、満員の観客から大きな拍手を浴びると、さんまは立ち上がってパン。パン、パン、パンとお決まりの拍手を留める芸を披露。中川家礼二、剛がモノマネ。次長課長河本のツッコミも。さんまが出演者を、爆笑エピソードを交えて紹介した。さんまファミリーのジミー大西、松尾伴内との出会い、中川家、次長課長がさんまのハートを掴んだネタを解説。若手のアインシュタイン稲田直樹、河井ゆずるやアキナ秋山賢太、山名文和にはダメ出しを少々。さんまのレアなモノマネも飛び出し、国民的番組には辛口のコメントを発した。トークだけで盛り上がり、すでに予定時間をオーバーした。その後は漫才、コント、モノボケや、レトロな大阪を舞台にした爆笑喜劇。エンドレスの初笑いとなった。"},
  18. ]
  19.  
  20. input_ids = tokenizer.apply_chat_template(chat, tokenize=True, add_generation_prompt=True, return_tensors="pt").to(device=model.device)
  21. attention_mask = input_ids.ne(tokenizer.pad_token_id).long()
  22. tokens = model.generate(
  23. input_ids,
  24. max_length=2048,
  25. do_sample=False,
  26. num_beams=1,
  27. pad_token_id=tokenizer.eos_token_id,
  28. attention_mask=attention_mask,
  29. streamer=streamer,
  30. )
  31. out = tokenizer.decode(tokens[0][len(input_ids[0]):], skip_special_tokens=True)
  32. print()


インプットデータと結果

  1. 0.5b
    • LLMとは何ですか?
      1. LLMLarge Language Model)とは、大規模な言語モデルを指し、特に自然言語処理(NLP)の分野で広く使用されているモデルです。これらのモデルは、大量のテキストデータから学習し、特定のタスクや質問に対して高度な言語理解と生成能力を発揮します。
      2.  
      3. LLMにはいくつかの種類がありますが、代表的なモデルとしてはBERTBidirectional Encoder Representations from Transformers)、GPTGenerative Pre-trained Transformer)シリーズなどが挙げられます。BERTは双方向の文脈を考慮することで、より正確な意味理解が可能であり、GPTシリーズは大規模なテキストコーパスから事前学習されたモデルを用いて、さまざまなタスクに適応できるように設計されています。
      4.  
      5. LLMは、チャットボット、カスタマーサポート、文書要約、翻訳、質問応答システムなど、さまざまなアプリケーションで活用されています。特に、ユーザーとの対話を通じて深い理解と適切な対応が求められる場面で非常に有用です。

    • Huggin Faceとは何ですか?
      1. Hugging Faceは、自然言語処理(NLP)や機械学習のライブラリやツールを提供するオープンソースのコミュニティです。特に、TransformersモデルやBERTなどの事前学習済みモデルを提供しています。これらのモデルは、多くのNLPタスクで高い性能を発揮し、研究者や開発者がすぐに利用できるように設計されています。Hugging Faceを利用することで、ユーザーはこれらのモデルを自分のプロジェクトに簡単に統合し、研究や開発を進めることができます。また、コミュニティサポートも充実しており、ユーザーが疑問や問題に直面した際にも助けを求めることができます。

    • 要約①
      1. 新宿区の大久保公園で、長期化するコロナ禍で生活苦に直面する人々を支援する「年越し支援コロナ被害相談村」が31日に開催されました。この村では、労働や生活に関わる相談を受け付けるとともに、コメや野菜などの食料品を提供する場が設けられています。実行委によると、相談に訪れた人は前年の大みそかの2倍となる208人に達し、特に仕事や住まいを失うケースが多く見られます。相談内容は、システムエンジニアから失職し野宿生活を送る男性や、3カ月前に解雇された男性など、失業期間が長引く中で影響を受けた人々が多くを占めています。共同代表の棗一郎弁護士は、失業期間が長引く中で労働相談が増えていることを指摘し、行政による失業対策の重要性を訴えています。会場には女性のためのブースも設けられ、女性スタッフだけで相談に対応する体制が取られています。

    • 要約②
      1. 明石家さんまが主演のお正月特別公演「笑輪の笑い~Born ready達~」が、大阪ミナミのなんばグランド花月で1日に開催されました。この公演には40年ぶりの出演となるさんまが参加し、多くの観客から大きな注目を集めました。冒頭、歌舞伎の口上で出演者が登場し、観客からの拍手に立ち上がったり、パンと拍手を留める芸を披露しました。
      2.  
      3. さんまは中川家礼二、剛、次長課長河本らと共にモノマネを披露し、audienceから大きな反応がありました。また、さんま自身がモノマネを披露することもあり、国民的番組ならではのパフォーマンスでした。
      4.  
      5. トークでは、さんまが出演者の爆笑エピソードを交えて紹介し、さんまファミリーのジミー大西や松尾伴内との出会い、中川家、次長課長のさんまへの愛のあるネタを解説しました。若手芸人にも厳しいコメントが飛び、さんまのレアなモノマネも披露されました。
      6.  
      7. トークは予定時間をオーバーするほど盛り上がり、漫才、コント、モノボケ、大阪を舞台にした爆笑喜劇など、 endlessな初笑いとなりました。さんまのユニークなトークと素晴らしいパフォーマンスで、観客は笑いの渦に巻き込まれました。

    • キーワード抽出①
      1. ・長期化するコロナ禍で生活が苦しくなった人たち
      2. ・年越し支援コロナ被害相談村の開催(新宿区の大久保公園で)
      3. ・弁護士らのグループによる実行委員会(労働組合や弁護士らで構成)
      4. ・窓口の閉まる年末年始に生活相談や支援を提供する場づくり
      5. ・労働や生活に関わる相談、食料品の提供(コメや野菜など)
      6. ・女性のためのブースの設置(女性スタッフだけで対応)
      7. ・実行委による前年との比較(特に仕事を失い、住居を失ったケースの相談増加)
      8. ・行政に対する失業対策の必要性を訴える声(棗一郎弁護士の発言)

    • キーワード抽出②
      1. ・明石家さんま
      2. - 明石家さんまが主演のお正月特別公演笑輪の笑い~Born ready達~の主催者であり、メインキャストとして出演。
      3.  
      4. ・ńG(なんばグランド花月)
      5. - 明石家さんまが正月興行を上演する舞台。
      6.  
      7. ・笑輪(わらい)
      8. - 明石家さんまが演出するお正月特別公演のタイトル。
      9.  
      10. Born ready達( Born Ready with さんま)
      11. - 明石家さんまが参加する特別公演の名称。
      12.  
      13. ・ńK(大阪ミナミのなんばグランド花月)
      14. - 明石家さんまが正月興行を上演する舞台がある場所。
      15.  
      16. ・正月特別公演
      17. - 新年を祝う特別な公演。
      18.  
      19. ${キーワード}(例:$さんま、ńG$笑輪、$Born ready達、$Born readywithさんま、$ńK$正月特別公演)
      20. - 上記のキーワードの中から、特に重要なキーワードを抽出。
      21.  
      22. ${コメント}
      23. - アシスタントが抽出したキーワードに対する追加や補足的なコメント。
      24.  
      25. 上記の文章から、明石家さんま、ńG(なんばグランド花月)、笑輪(わらい)、Born ready達(Born Ready with さんま)、ńK(大阪ミナミのなんばグランド花月)、正月特別公演というキーワードが抽出できます。

  2. 1b
    • LLMとは何ですか?
      1. LLM、つまりLarge Language Model(大規模言語モデル)は、大量のテキストデータから学習された人工知能モデルの一種です。特に自然言語処理(NLP)の分野で非常に強力なツールとされています。このモデルは、文章の意味理解、文脈の推測、生成、翻訳、質問応答など、幅広い言語タスクに高い性能を発揮します。
      2.  
      3. 具体的には、LLMは膨大なテキストコーパス(大量のテキストデータ集合)を用いて、文法、語彙、文脈、意味などの言語的特徴を学習します。これにより、新しいテキストを生成したり、既存のテキストを解析したりする際に、人間のような自然な言語使用が可能となります。例えば、GPTGenerative Pre-trained Transformer)やBERTBidirectional Encoder Representations from Transformers)といったモデルが代表的なLLMとして知られています。これらは様々な産業や研究分野で応用され、ユーザーインターフェースの向上、自動文書作成、カスタマーサポートなど多岐にわたる用途で活用されています。

    • Hugging Faceとはなんですか?
      1. Hugging Faceは、主に自然言語処理(NLP)や機械学習の分野で使用されるオープンソースのプラットフォームとツールを提供する企業です。特に、深層学習モデルの開発、訓練、評価、およびデプロイmentにおいて広く利用されています。Hugging Faceのプラットフォームには、Transformersライブラリが含まれており、これはBERTGPT-3などの高度な言語モデルを簡単に利用できるように設計されています。このライブラリは、研究者や開発者が高品質な事前学習済みモデルを自分のプロジェクトに統合し、効率的にモデルを訓練・微調整するためのツールやフレームワークを提供しています。また、Hugging Faceはコミュニティが活発で、モデルの共有、コラボレーション、およびサポートが充実しており、機械学習やNLPの研究開発において非常に有用なリソースとなっています。

    • 要約①
      1. この文章は、長期化するコロナ禍により生活が苦しくなった人々を支援するために、弁護士らによるグループが主催する年越し支援コロナ被害相談村のことが紹介されています。この相談村は、新宿区大久保公園で年末年始に開催され、労働や生活に関する相談だけでなく、食料提供も行われています。元日も午前10時から午後4時まで開村され、女性たちのためのブースも設けられています。実行委によると、前年の大みそかよりも多くの相談者(208人)が訪れ、その多くが仕事や住まいを失ったり、収入が減ったりした状況でした。特に、システムエンジニアで月収が100万円あった男性が失業後に野宿生活を送るようになったり、3か月前に解雇された男性がアパートの家賃を払えなくなっているケースが目立ちました。共同代表の棗一郎弁護士は、失業期間が長引くことで労働相談が増えていると指摘し、行政による失業対策の強化を訴えています。

    • 要約②
      1. 明石家さんまが主演するお正月特別公演「笑輪の笑い~Born ready達~」が、大阪ミナミのなんばグランド花月で1日開催されました。このイベントは40年ぶりのNGK(なんばグランド花月)正月興行であり、さんま氏は40年前の自身の出演以来、再び同舞台に立ちました。冒頭、出演者は歌舞伎の口上スタイルで登場し、観客から大きな拍手を受けました。さんま氏は続いて、定番のパン!パン!パン!という拍手を留める芸を披露し、観客を沸かせました。
      2.  
      3. この公演では、さんま氏が出演者を爆笑エピソードを交えて紹介し、各ファミリーの個性を活かしたネタを解説しました。特に、ジミー大西と松尾伴内との出会いや、中川家、次長課長がさんまのハートを掴んだネタについて詳しく話しました。また、若手芸人であるアインシュタイン稲田直樹、河井ゆずる、アキナ秋山賢太、山名文和にもダメ出しを少々行い、さんまの厳しい視線が向けられました。
      4.  
      5. さんま氏のレアなモノマネも披露され、国民的番組の辛口コメントも交えながら、トークは continued していきました。漫才、コント、モノボケ、レトロな大阪を舞台にした爆笑喜劇など、様々なネタでaudienceを魅了し、予定時間を大幅に超える endless な初笑いとなりました。この公演は「エンドレスの初笑い」として、多くの観客に楽しんでされました。

    • キーワード抽出①
      1. 抽出したキーワードは以下の5つです。
      2.  
      3. 1. 長期化するコロナ禍
      4. 2. 生活困窮者支援
      5. 3. 年越し支援コロナ被害相談村
      6. 4. 弁護士らによるサポート
      7. 5. 相談場の提供(労働・生活関連)
      8.  
      9. これらのキーワードは、質問文に含まれる重要な情報を抽出し、ユーザーが求めている内容を明確にしています。特に、コロナ禍における生活困窮者への支援、具体的な相談の場の提供、そして弁護士らによる専門的なサポートが重要なポイントとして強調されています。

    • キーワード抽出②
      1. 抽出したキーワードは以下の通りです。
      2.  
      3. 1. 明石家さんま
      4. 2. NGK(なんばグランド花月)
      5. 3. お正月特別公演笑輪の笑い~Born ready達~
      6. 4. 口上スタイル
      7. 5. パン・拍手(さんまのお決まり芸)
      8. 6. 出演者紹介
      9. 7. laughs(笑い)
      10. 8. バブル時代(過去の思い出)
      11. 9. 中川家礼二、剛
      12. 10. 次長課長河本
      13. 11. ジミー大西、松尾伴内
      14. 12. さんまファミリー
      15. 13. 爆笑エピソード
      16. 14. さんまのハートを掴んだネタ
      17. 15. アインシュタイン稲田直樹、河井ゆずる、アキナ秋山賢太、山名文和
      18. 16. モノボケ
      19. 17. レトロ
      20. 18. 大阪
      21. 19. laughs againEndless laughs
      22. 20. 漫才、コント、モノボケ、 laughs beyond endlessly

  3. 3b
    • 要約①
      1. 長期化するコロナ禍により生活が苦しくなった人たちを支援するため、弁護士らのグループは1231日、東京都新宿区の大久保公園で年越し支援コロナ被害相談村を開いた。この相談村では、年末年始の自治体窓口が閉まる時期に労働や生活に関する相談を受け付け、コメや野菜などの食料品を提供している。元日も午前10時から午後4時まで同公園で開催され、前年に続き労働組合や弁護士らによる実行委員会が運営した。
      2.  
      3. 相談村には女性のためのブースも設置され、女性スタッフだけで相談に対応する態勢が整えられている。31日午後4時時点で208人が訪れ、前年の大みそかの2倍の人数となった。相談内容には、システムエンジニアだったが失業し野宿生活を送る男性や、解雇により家賃を払えなくなった男性など、仕事や住まいを失うケースが目立った。共同代表の棗一郎弁護士は、失業期間が長引く中で労働相談が増えているとし、行政が失業対策に取り組むべきだと述べている。

    • 要約②
      1. 明石家さんま主演のお正月特別公演「笑輪の笑い~Born ready達~」が1日、大阪ミナミのなんばグランド花月で開催されました。さんまのNGK正月興行出演は40年ぶりで、昨年はコロナ禍により中止となりました。公演では、歌舞伎の口上スタイルで登場した出演者たちが満員の観客から大きな拍手を受け、さんまはパン、パン、パンと拍手を留める芸を披露しました。中川家礼二、剛や次長課長河本によるモノマネ、そしてさんまが出演者の爆笑エピソードを紹介し、ジミー大西や松尾伴内との出会い、中川家や次長課長のネタを解説しました。さんまは若手芸人にもダメ出しをしながら、アインシュタイン稲田直樹、河井ゆずる、アキナ秋山賢太、山名文和らにアドバイスを与えました。また、さんまのレアなモノマネや国民的番組への辛口コメントも飛び出し、トークだけで予定時間を大幅に超えました。その後、漫才、コント、モノボケ、レトロな大阪を舞台にした爆笑喜劇が続き、 endlessな初笑いとなりました。

    • キーワード抽出①
      1. 1. コロナ禍
      2. 2. 生活支援
      3. 3. 年越し支援コロナ被害相談村
      4. 4. 新宿区大久保公園
      5. 5. 労働・生活相談

    • キーワード抽出②
      1. 抽出するキーワードは以下の通りです:
      2.  
      3. 1. 明石家さんま:主演のタレントであり、特別公演の中心人物。
      4. 2. なんばグランド花月(NGK):公演が行われた劇場の名前。
      5. 3. 新型コロナ禍:特別公演が中止となった原因となった感染症の流行。
      6. 4. 笑い:特別公演のテーマであり、多くのジョークやコメディ要素が含まれることを示すキーワード。
      7. 5. さんまファミリー:明石家さんまを中心とした、特別公演に出演したタレントたちのグループを指す表現。

以上です。

コメント

このブログの人気の投稿

PowerAppsで座席表を作成する

Power Automateでファイル名から拡張子を取得

Power Automateで文字列抽出