����λ�ã���ҳ > �����̳� > �̳� > ollama��һ������Go���Եı��ش�ģ�����п��

ollama��һ������Go���Եı��ش�ģ�����п��

��Դ������������|��ʱ�䣺2024-04-22 09:46:15 |���Ķ���120��|�� ��ǩ�� �� С �ҵ� GO һ�� A3 C in С���ֻ� Mac �ֻ� С�� �� |����������

1��ollama�����Ǹ�ʲô���� һ�仰��˵�� Ollama ��һ������ Go ���Կ����ļ����õı��ش�ģ�����п�ܡ����Խ������Ϊ docker��������docker�е�һЩ��������list,pull,push,run �ȵȣ�����ʵ��ȷʵҲ�ƶ������� docker ��һ��ģ��Ӧ�ñ�׼���ں�ߵ�����

ollama��һ������Go���Կ����ļ����õı��ش�ģ�����п�ܡ���������docker���ṩһЩ��docker���Ƶ������list��pull��push��run�ȡ����⣬������Go�����е�Web���gin���ṩ��һЩAPI�ӿڣ��������û���ʹ��OpenAI�ṩ�Ľӿ�һ�����н�����

1��ollama��ʲô

ollama��һ������Go���Կ����ļ����õı��ش�ģ�����п�ܡ����Խ������Ϊdocker��������docker�е�һЩ��������list,pull,push,run�ȵȣ�����ʵ��ȷʵҲ�ƶ�������docker��һ��ģ��Ӧ�ñ�׼���ں�ߵ������У����ܸ���������ᵽ��һ�㡣

�ڹ���ģ�͵�ͬʱ����������Go�����е�Web���gin�ṩ��һЩAPI�ӿڣ������ܹ����OpenAI�ṩ�Ľӿ��������н�����

2��ollama������

ollama��װ֮����ͬʱ����һ�������ģ�ͽ�������ͨ�����������еġ�

  • ollama list����ʾģ���б�
  • ollama show����ʾģ�͵���Ϣ
  • ollama pull����ȡģ��
  • ollama push�������
  • ollama cp������һ��ģ��
  • ollama rm��ɾ��һ��ģ��
  • ollama run������һ��ģ��

ͨ��������������ollama���ɲ鿴��������

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

������ù�docker�Ļ����Ǽ�ֱ����so easy���������Ҿ����ҵ�window��mac���Լ�С���ֻ��Ϸֱ�����һ�¡�

3����Windows�����ؼ�����

  • ������ҳһ�����Ϳ��Կ������ذ�ť���ͻ��˿�����window��mac��linux�Ƚ��а�װ����ƽ̨�ģ����nice����

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

���������Ѿ���llama3���ɽ����ˣ����ٶ�����Ŀ졣���������ص���window�汾��Ŀǰ213MB,�ܿ�����������ˡ�������ϼ��ɰ�װ��

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

��װ���֮���������������������鿴�汾

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

���ǿ��Բ鿴�ĵ��� https://github.com/ollama/ollama/blob/main/README.md#quickstart

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

����ͼ��ʾ����������򵥵ķ�ʽ�Ϳ���������llama3-8b,���������ܻ�Ҫ��һ�������Ϊģ�ʹ�С��4.7G���ң���Ҫ����һ���Ӵ������������ù��ߣ�Ҳ����ʹ��70b��ģ�������ԣ������ҵĵ�������һ�����������̫����

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

�����������ٶȻ�����ԣ��ķ���������ϣ����ˣ��Ǿ���������һ�°ɡ�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

����������������������ұ������Ըо��ٶ����������ߴ�ģ���ˣ���ı��ַdz���������ĿǰӦ�úܿ�����Ż��汾�����ģ���ʱ�������������һ�¡�

�Ƴ���֮ǰ����˵û�������ĵ����⣬�������Ͽ���ȷʵ�е��١�����д��������黹�㲻���ģ���Ȼ����Ĵ�������Dz��Եġ�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

�����ij��ȹ���ʱȷʵ�лþ������⡣

����ش��ٶ�������Ż�һ�£��ܶ�С��˾�Լ��������ģ�Ͳ����д���ͺܽ��ˡ�

�������Ͼ���Сģ�ͣ�������Խ��٣�����ʱ����Ҫ����Դ���ٺܶࡣ�����ұ������еģ���ʵ�ҵĵ������ÿ��Կ�һ������ͼ��ʾ��

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

�ӿ����ĽǶ��������㲻���ˡ�����Է����Ҫ�󲻸ߵĻ���Ч��Ҳ������ȥ�ġ�

ͬ������Ҳ����ֱ�ӽ��е���API

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

4��mac �ϰ�װ�Լ�����

ͬ�������ڹ�����ҳ���Ե��ֱ�����ؼ��ɣ�������������һ��ѹ����

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

��ѹȻ��װ�Ϳ���ʹ���ˣ�Ȼ�����������п��Բ鿴�Ƿ�װ�ɹ�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

ͨ�� ollama -v ���鿴��װ�İ汾�������ӡ����Ҳ��˵����װ�ɹ��ˡ�Ȼ����ͨ�� ollama serve ���� ollama �ķ���ע�⵱ǰ��������д�����ʱ��Ҫ�رգ��ر�������� ollama ����Ҳ��ʱֹͣ�ˣ����Դ�����һ�������д��ڽ������غ�ʹ�ô�ģ�͡�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

���������������ٶȼ�ֱ����ˡ�������֮�󣬲��ԾͿ��Ը�����window�����ˣ�����Ͳ��ڴ˶�˵�ˡ�

5��С���ֻ���������һ��

android�ֻ�Ҫ������һ��������Ҫ�Ȱ�����ϡTermux,������֮ǰ��д��һƪ�ְ������������ֻ��ϰ�װ��ģ��llama2����ƪ����������Ҫʹ�õ���huggingface �����д�ģ�ͣ���ô�����õ�����ollama��

��������Termux��ִ������������а�װollama


curl -fsSL https://ollama.com/install.sh | sh

�����ҵ��ֻ�û��root,ollama��ʹ�ò������ģ�����Ҫ��root��

����������һ�������ķ�����
https://gitlab.com/st42/termux-sudo

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

���ǵ��ȥ����������ǰ�ģ���֪���ܲ����ã������Ҿ���������һ��

https://github.com/termux/proot-distro

proot-distro ��һ�������� Termux Ӧ�ó����й�����ʹ�� Linux ���а����Ŀ��Termux ��һ�� Android �ն�ģ������ Linux ����Ӧ�ã�������Ҫ�豸�� root Ȩ�޾Ϳ������С�

proot-distro �����û��� Termux �а�װ��ж�غ����и��� Linux ���а棬���� Ubuntu��Debian��Arch Linux �ȡ��������û��Ϳ��������ǵ� Android �豸��ʹ�������� Linux ������������װ������ Linux ��������

������Ҫ�����ֻ��ϴ�termux


// ������װproot-distro
pkg install proot-distro

//ʹ��proot-distro��װһ��debian
proot-distro install debian

// ��װ�ɹ���ͨ��login�����ֱ�ӽ���debian
proot-distro login debian

//����֮��������װollama
curl -fsSL https://ollama.com/install.sh | sh

// ��װ��Ͽ��Բ鿴ollama�汾������֤
ollama -v

// ���ְ汾��֮��Ϳ���ʹ��ollama
// ����ollama����
ollama serve
// ��ʱ��������еĴ��ڲ�Ҫ�رգ��ر�֮��ollama�����ֹͣ��

Ȼ����termux���Ͻ����һ���

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

���NEW SESSION,�������¿���һ�������У��������������оͿ���ʹ��ollama����������


// ����һ���µ������У����ǵ�Ҫ�Ƚ���debian
proot-distro login debian

//���ز����д�ģ��
ollama run llama3

���в��Ծ͸�����һ���ˣ������൱�ڵ�����װ��һ��ģ�����л���debian,����һ�������ܵ����İɡ�����Ȥ�����ֻ����ܲ����ĵ�ʱ��������棬�о�Сģ����δ����ij��ʱ�̻��ǻ��и��㷺��Ӧ�ó���������������ô�࣬��ô�󣬵�������ض��������΢��ѵ���ġ�

6���ܽ�

Ӧ��˵llama3�����˿�Դģ�͸�������˼���ռ䣬�ڴ���Դģ�͸���Ľ�����������Ŀ�Դ���ͬʱϣ��Meta�ڽ�������ʱ���ܽ�llama3-400�ķ�����

����ʵ������µĹ�����Ҳ�����ˣ�

��ͨ��Meta�����������Ż�Meta���Ƴ���Llama 3������ģ���������ն��ϵ����С�Llama 3�����ְ汾���ֱ�Ϊ80�ں�700�ڲ�����ּ��Ϊ�����ֻ���PC��VR/ARͷ�Ժ��������豸�ṩǿ��Ŀ�Դ����ģ��֧�֡�������ʹ�������ܹ����ø�ͨAI Hub����Դ�͹��ߣ��Ż�Llama 3������ƽ̨�ϵ�ִ�У������̲�Ʒ����ʱ�䣬�������ն˲�AI�����ܣ�������Ӧ��������˽�ԡ��ɿ��Ժ͸��Ի����顣

��ż����ȥ����huggingfaceƽ̨�ͷ�����8������΢��ģ�ͣ����ò�˵�������������̫ǿ���ˣ�ȫ������ģ�͡�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

��Llama 3�ķ����ܿ������ö�ȫ�����ݣ���ģ��ѵ������Ҫ�ԣ� HuggingFaceFW ��Դ�� FineWeb ���� 15T tokens �ĸ������������ݣ���Ӣ��Ϊ������CommonCrawl��ȡ��2013-2024�����ݡ�

ollama£ºÒ»¸ö»ùÓÚGoÓïÑԵı¾µØ´óÄ£ÐÍÔËÐпò¼Ü

ollama��huggingface ������������������ͨ�ˣ����ܷܺ�����˽�AI��ģ�ͣ������ڱ������д�ģ�ͣ����̫�����ˣ��������л����������������Ŀ����ԡ�

С���Ƽ��Ķ�

�������������Ľ�Ϊ������Ϣ����������������ͬ���޹۵��֤ʵ��������

Go v1.62
Go v1.62
���ͣ�����ð��������Ӫ״̬����ʽ��Ӫ�������ԣ����� ����

��Ϸ����

��Ϸ���

��Ϸ��Ƶ

��Ϸ����

��Ϸ�

GoEscape��һ���Թ��������д�����Ϸ���������Ϸ�У���ҿ�����ս�����ؿ���ͨ����ת��Ļ�ķ�ʽ��������

�����Ƶ����

����

ͬ������

����

ɨ��ά�����������ֻ��汾��

ɨ��ά����������΢�Ź��ںţ�

��վ�������������������ϴ��������ַ���İ�Ȩ���뷢�ʼ�[email protected]

��ICP��2022002427��-10 �湫��������43070202000427��© 2013~2025 haote.com ������