bの計算式を考えたのがですがどうやって計算するのでしょうか
YA＝αのXA乗mod P
6＝  3のXA乗mod 7    
YB= αのXB乗mod P
7   5   XB乗mod 7
K=YBのXA乗mod P

K=YAのXB乗mod P

P=7 α＝5  YA＝6  YB=3とした場合に計算出来ないのですが・・・

XAとXBが意味不明です

(1)  素数 p と， p よりも小さいある自然数αが公開されていて， 利用者 A と利用者 B がともに知ることができる。

(2)  利用者 A は， p よりも小さい任意の自然数 XA を選び， 秘密かぎとして保持するとともに，次の式で得られる公開かぎ YA を利用者 B に送る。 

(3)  利用者 B は， p よりも小さい任意の自然数 XB を選び， 秘密かぎとして保持するとともに，次の式で得られる公開かぎ YB を利用者 A に送る。 

ここでいう小さい任意の自然数 XA と小さい任意の自然数 XB はどうやったら計算できますか、分かる方教えてください。

平成17年秋午後問3  問題文抜粋より

問題文
https://www.fe-siken.com/kakomon/17_aki/

「利用者Aは、pよりも小さい任意の自然数XAを選び、」とは、
なんでも良いから、自然数を選ぶということです。利用者Aが決める数です。
それを使って、α^XA mod p を求め、YAとします。Bも同じです。

＞boyonboyonさん
なら
XA＝2として
YA＝5 mod 7
25/7=3・・・4

XB＝3として
5の3乗125
YB＝125/7=17・・・6

利用者Aは
K=6の2乗/7  なので

36/7＝5・・・1？

余りを勘違いしていますでしょうか？
計算が合わないです。計算過程を教えてください

任意というのは最初にYAとYBを作る時の話なので、Kを逆算する場合は選ばれたであろうXAとXBを探さないとダメです。

利用者Aが作ったYAと公開されてるaとpがわかっているので
YA = a^XA mod p
は
6 = 5^XA mod 7
の式で5のXA乗の部分を求められれば

暗号鍵Kを割り出せるということになってます。
K = YB^XA mod 7
は
K = 3^XA mod 7

上は利用者A側からやってますが利用者BからやってもKは一致するようです。

あとはXAの求め方ですが私は数字苦手なので2乗から数字増やして割って行きました（利用者Aからやると3乗で計算が終わったのですぐでしたが、Bの方で合うか試したら5乗まで行ってしまいます）
きっと素敵な方程式あると思うので数学ツヨツヨの人に解説は任せます。

>電タックさん
YA＝αのXA乗mod P
6＝  3のXA乗mod 7  
XA＝2
9/7＝1・・・2
XA=3
27/7＝7・・・6  XA=3  YA=6

K＝YBのXA乗mod7
   3   3     /7
6＝27/7=3・・・6
となる。分かりました

この投稿は投稿者により削除されました。(2024.03.07 18:34)

この投稿は投稿者により削除されました。(2024.03.07 20:54)

5^X mod 7 の値は

X=1 →5
X=2 →4
X=3 →6
X=4 →2
X=5 →3
X=6 →1
X=7 →5
X=8 →4
X=9 →6
X=10 →2
X=11 →3
X=12 →1
X=13 →5
X=14 →4
X=15 →6
X=16 →2
・・・
となり、546231の繰り返しになってしまいます。

YA=6に対応するXA=3,3+6,3+12,3+18・・・
YB=3に対応するXB=5,5+6,5+12,5+18・・・

K=5^(XA*XB) mod 7
なので、一番小さい3と5を選び（他の対応するものでも可 mod 6 すればよいので）
XA*XB=3X5=15      
5^15 mod 7 の値は 6
とkの値が求められてしまいます。